关于 Apache Pulsar

Apache Pulsar 是 Apache 软件基金会顶级项目,是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性。
当前已有众多国内外大型互联网和传统行业公司采用 Apache Pulsar,案例分布在人工智能、金融、电信运营商、直播与短视频、物联网、零售与电子商务、在线教育等多个行业,如美国有线电视网络巨头 Comcast、Yahoo!、腾讯、中国电信、中国移动、BIGO、VIPKID 等。

关于 Pulsar Summit

Pulsar Summit 是由 StreamNative 组织的 Apache Pulsar 社区年度盛会,它将分布在世界各地的 Apache Pulsar 项目 Contributor、Committer 和各企业 CTO/CIO、开发者、架构师、数据科学家,以及消息和流计算社区的精英召集在一起。Pulsar Summit Asia 旨在聚集亚洲地区 Pulsar 开发者和贡献者,促进 Apache Pulsar 在亚洲地区的发展。Pulsar Summit Asia 2020 已于 11 月 28-29 日顺利举办。


从本周开始,我们将陆续整理发布 Pulsar Summit Asia 2020 主题演讲及分论坛演讲视频,即使错过当日直播也能帮你了解精彩分享。今日推送是 Pulsar Summit Asia 2020 大会全部主题演讲视频,敬请查收哟!

Apache Pulsar 社区的崛起

Jennifer Huang

Jennifer Huang 是 Apache Pulsar PMC 成员,目前在 StreamNative 担任 Senior Content Strategist。她在 Apache Pulsar 文档和社区方面有着诸多贡献,以期构建全球性的 Apache Pulsar 社区。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar

视频介绍:Apache Pulsar 是下一代云原生分布式消息流平台。自 2018 年 9 月毕业成为 Apache 软件基金会顶级项目后,Pulsar 开始了如火如荼的发展。Pulsar 社区始终坚持“社区优于代码“的理念,发展多元化社区。产品功能不断完善,产品迭代快速规范,周边生态日益丰富,用户手册、用户案例、技术博客、线下沙龙、线上培训等等百花齐放,全球用户和贡献者呈爆发式增长趋势。
Pulsar 没有 Kafka 那么成熟知名,没有 RabbitMQ 那么多的商业支持,但 Pulsar 比 Kafka 更方便水平扩展,开箱即用,轻松实现集群共享和跨地域复制;Pulsar 比 RabbitMQ 功能更全、性能更好,运维更友好。
Pulsar 社区在不断完善资源,加强建设,帮助更多小伙伴认识 Pulsar、使用 Pulsar、优化 Pulsar。无论你擅长写代码、做测试,还是擅长写文章、做采访、攻设计、搞运营,在 Pulsar 这个国际化大舞台,你都会遇到更优秀的自己!
Pulsar 社区正在崛起,它的崛起离不开你的参与,让我们携手共同打造一个更加多元、繁荣的社区!

【主题演讲】大融合:消息、流、存储三位一体

郭斯杰

郭斯杰是 StreamNative 联合创始人兼 CEO,Apache BookKeeper 副总裁,Apache Pulsar 项目 PMC 成员。在创办 StreamNative 之前,他曾是 Streamlio 的联合创始人之一。在创办 Streamlio 之前,他曾任 Twitter 消息团队技术负责人,期间他联合创建了 Apache DistributedLog 和 Twitter EventBus。在加入 Twitter 之前,郭斯杰曾在 Yahoo 负责搭建推送通知基础架构。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_02

视频介绍:当新生事物出现时,总有两种角度去观察它,要么把它看小,要么把它放大。对于 Apache Pulsar,把它看小的角度通常是“Apache Pulsar 只是一个新的消息队列而已“,或者“Apache Pulsar 只是一个新的数据管道而已“,”队列系统早就有了,只是 Apache Pulsar 更具扩展性也能解决某些场景问题而已,基本没啥本质区别“。很明显,上述种种认识都不对。在本演讲视频,郭斯杰分享了 Pulsar 社区目前已有的 Pulsar 应用情况,并探讨在消息、流、数据管理和技术基础设施层面的技术演进。

【主题演讲】Apache Pulsar 2.7.0:新功能特性解析

李鹏辉

StreamNative 软件工程师,Apache Pulsar Committer/PMC 成员。李鹏辉曾任职智联招聘,期间他作为主要推动者将 Apache Pulsar 落地智联招聘。他的工作经历始终围绕消息系统和微服务,目前已全力投入到 Pulsar 的世界中。

翟佳

翟佳是 StreamNative 的核心工程师,也是 Apache BookKeeper 和 Apache Pulsar 项目 PMC 成员。他不断为 Apache BookKeeper、Apache Pulsar 和 Apache DistributedLog 做出贡献。在 StreamNative 工作之前,翟佳曾在 Streamlio 担任核心工程师,在 EMC 北京担任首席工程师和技术负责人。他主要致力于分布式存储服务和大数据基础架构。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_03

视频介绍:Apache Pulsar 是下一代云原生分布式消息流平台。自从开源以来,Apache Puslar 凭借云原生的架构、流原生的存储设计以及丰富的企业级特性,得到了众多开发者的支持和青睐,Pulsar 的使用场景不断增多,功能不断完善,社区的版本不断向前推进。
在 Apache Pulsar 毕业成为 Apache 的顶级项目两年之际,Apache Pulsar 社区也迎来了 Pulsar 的主版本 2.7.0 的发布。在 Pulsar 2.7.0 中,新加入了开发者预览版的事务消息的支持;topic 级别的策略设置;Oauth2 的认证支持等新的功能;同时也对现有的功能做了增强,比如增强 Key-Shared 订阅模式的支持;增加了二级存储的类型支持;增强 Pulsar Functions 功能等等。在本演讲视频,李鹏辉和翟佳详细地介绍了这些新的变更。

Pulsar-as-a-Service:StreamNative Cloud 特性详解及演示

杨阳

杨阳是一名 StreamNative 软件工程师,他的工作聚焦于 Pulsar, BookKeeper 和云平台方向。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_04

视频介绍:StreamNative Cloud 是业界唯一由 Apache Pulsar 的原始开发者提供支持的全托管、云原生的消息和事件流平台,提供了一种在世界不同区域、不同云平台上安全、便捷、可靠、可扩展、高效费比的托管式 Pulsar 服务。用户可以通过与平台的简单交互快速获取到一个调优过的生产级 Pulsar 服务,以与开源 Pulsar 完全一致的方式使用客户端进行访问,从而可以更多的专注于核心业务逻辑,无需关心运维部署细节。在本演讲视频中,杨阳介绍了 StreamNative Cloud 的功能、特性,并演示如何使用 Cloud 平台来创建和使用 Pulsar 服务。

Apache Pulsar 贡献者之旅:从新手到 Committer 那些事

陈航

陈航是 BIGO 大数据消息团队负责人、Apache Pulsar Committer,负责创建集中式的订阅-发布消息平台以支撑大量在线服务。他将 Apache Pulsar 引入到了 BIGO 消息平台并打通上下游系统生态,如 Flink、ClickHouse 及其他系统,以用来打造实时推荐和分析系统。他专注在 Pulsar 性能调优、新功能开发及 Pulsar 生态集成方向。

李鹏辉

StreamNative 软件工程师,Apache Pulsar Committer/PMC 成员。李鹏辉曾任职智联招聘,期间他作为主要推动者将 Apache Pulsar 落地智联招聘。他的工作经历始终围绕消息系统和微服务,目前已全力投入到 Pulsar 的世界中。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_05

视频介绍:Apache Pulsar 社区热烈欢迎各个方面的贡献者!为 Pulsar 做贡献,不局限于代码,比如写案例、写教程、输出技术文章、举办 Pulsar 交流活动等等,都是参与 Pulsar 贡献的方式。截止目前,Apache Pulsar 拥有分布在世界各地的 315+ 名贡献者,令人称赞!一个开放、快速成长的 Apache Pulsar 社区正在吸引越来越多的人们参与进来!

Function Mesh:让复杂的流工作更简单之道

吕能

吕能在 StreamNative 担任主管工程师,主要负责 Apache Pulsar 和其他大数据生态系统的集成开发。之前,他在 Twitter 担任高级软件工程师职位。他也是 Heron 项目的核心 Committer,并在 Twitter 领衔 Heron 开发工作,他也曾负责 Twitter 监控和 KV 存储系统开发。更早之前,他在浙江大学获得学士学位又在 UCLA 获得硕士学位。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_06

视频介绍:Pulsar Function 是 Apache Pulsar 的一个简洁计算抽象,以帮助用户处理简单的 ETL 和流任务。Pulsar Function 的简洁包括在两个方面:一是接口简单,二是部署简单。只要用起来,你会发现在 Apache Pulsar 中就能原生支持多函数组合,着实便利。基于 Pulsar Function,人们就能轻松表达和管理多阶段任务。同时,这也为更高阶抽象 DSL 提供了可能性,以进一步简化任务处理,我们将此称为 Pulsar Funtion Mesh。在本次演讲视频,介绍了 Function Mesh 新功能与特性,比如设计原理、实现、使用场景以及示例,来更好地帮助大家利用 Apache Pulsar 这一新的强大工具。

Apache Pulsar 在 Yahoo!JAPAN 的故事:运维实践与未来展望(英文)

Nozomi Kurihara

Nozomi Kurihara 是 Yahoo! Japan 的消息平台团队经理,负责创建集中式的发布-订阅消息平台,该平台基于 Apache Pulsar,用于处理大量的服务/应用程序流量。Nozomi Kurihara 还是 Apache Pulsar 项目的代码 Committer。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_07

视频介绍:Apache Pulsar 作为 Yahoo!JAPAN 集中式的订阅-发布消息平台已上线运行达 4 年之久。之所以落地 Pulsar,就是看到了 Pulsar 在性能、可扩展性和多租户方面的优秀表现。实话讲,目前 Pulsar 在我们内部扮演重要角色,目前支撑 100+ 服务,覆盖电商、媒体、广告等诸多业务。在本演讲视频,Nozomi 分享了实践案例,如 Pulsar 如何支撑数万 Gbps 规模的日志通道数据,也分享了 Yahoo! Japan 4 年来的 Apache Pulsar 线上生产环境运维尤其是碰到的问题及解决方案,以及大家遇到的常见问题。

Apache Pulsar 在腾讯云的最佳实践与未来展望

林琳

腾讯云高级工程师,活跃于开源社区,目前是 Apache Pulsar Contributor,专注于中间件领域,在消息队列和微服务方向具有丰富的经验。在加入腾讯后,林琳一直负责 CKafka/CMQ/mPass 的后端设计于开发工作,目前致力于打造稳定、高效和可扩展的基础组件与服务。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_08

 

视频介绍:当我们在云上使用消息系统时遇到了诸多挑战,比如动态伸缩扩容、维护大量分区等等。在本演讲视频中,林琳分享了腾讯云如何利用 Apache Pulsar 解决上述问题。

视频回顾 | Pulsar Summit Asia 2020 · 主题演讲_Apache Pulsar_09