关于 Apache PulsarApache Pulsar 是 Apache 软件基金会顶级项目,是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计,支持多租户、持久化存储、多机房跨区域数据复制,具有强一致性、高吞吐、低延时及高可扩展性等流数据存储特性。
当前已有众多国内外大型互联网和传统行业公司采用 Apache Pulsar,案例分布在人工智能、金融、电信运营商、直播与短视频、物联网、零售与电子商务、在线教育等多个行业,如美国有线电视网络巨头 Comcast、Yahoo!、腾讯、中国电信、中国移动、BIGO、VIPKID 等。
关于 Pulsar SummitPulsar Summit 是由 StreamNative 组织的 Apache Pulsar 社区年度盛会,它将分布在世界各地的 Apache Pulsar 项目 Contributor、Committer 和各企业 CTO/CIO、开发者、架构师、数据科学家,以及消息和流计算社区的精英召集在一起。Pulsar Summit Asia 旨在聚集亚洲地区 Pulsar 开发者和贡献者,促进 Apache Pulsar 在亚洲地区的发展。Pulsar Summit Asia 2020 已于 11 月 28-29 日顺利举办。
从本周开始,我们将陆续整理发布 Pulsar Summit Asia 2020 主题演讲及分论坛演讲视频,即使错过当日直播也能帮你了解精彩分享。今日推送是 Pulsar Summit Asia 2020 大会全部主题演讲视频,敬请查收哟!
Apache Pulsar 社区的崛起Jennifer Huang
Jennifer Huang 是 Apache Pulsar PMC 成员,目前在 StreamNative 担任 Senior Content Strategist。她在 Apache Pulsar 文档和社区方面有着诸多贡献,以期构建全球性的 Apache Pulsar 社区。
【主题演讲】大融合:消息、流、存储三位一体视频介绍:Apache Pulsar 是下一代云原生分布式消息流平台。自 2018 年 9 月毕业成为 Apache 软件基金会顶级项目后,Pulsar 开始了如火如荼的发展。Pulsar 社区始终坚持“社区优于代码“的理念,发展多元化社区。产品功能不断完善,产品迭代快速规范,周边生态日益丰富,用户手册、用户案例、技术博客、线下沙龙、线上培训等等百花齐放,全球用户和贡献者呈爆发式增长趋势。
Pulsar 没有 Kafka 那么成熟知名,没有 RabbitMQ 那么多的商业支持,但 Pulsar 比 Kafka 更方便水平扩展,开箱即用,轻松实现集群共享和跨地域复制;Pulsar 比 RabbitMQ 功能更全、性能更好,运维更友好。
Pulsar 社区在不断完善资源,加强建设,帮助更多小伙伴认识 Pulsar、使用 Pulsar、优化 Pulsar。无论你擅长写代码、做测试,还是擅长写文章、做采访、攻设计、搞运营,在 Pulsar 这个国际化大舞台,你都会遇到更优秀的自己!
Pulsar 社区正在崛起,它的崛起离不开你的参与,让我们携手共同打造一个更加多元、繁荣的社区!
郭斯杰
郭斯杰是 StreamNative 联合创始人兼 CEO,Apache BookKeeper 副总裁,Apache Pulsar 项目 PMC 成员。在创办 StreamNative 之前,他曾是 Streamlio 的联合创始人之一。在创办 Streamlio 之前,他曾任 Twitter 消息团队技术负责人,期间他联合创建了 Apache DistributedLog 和 Twitter EventBus。在加入 Twitter 之前,郭斯杰曾在 Yahoo 负责搭建推送通知基础架构。
【主题演讲】Apache Pulsar 2.7.0:新功能特性解析视频介绍:当新生事物出现时,总有两种角度去观察它,要么把它看小,要么把它放大。对于 Apache Pulsar,把它看小的角度通常是“Apache Pulsar 只是一个新的消息队列而已“,或者“Apache Pulsar 只是一个新的数据管道而已“,”队列系统早就有了,只是 Apache Pulsar 更具扩展性也能解决某些场景问题而已,基本没啥本质区别“。很明显,上述种种认识都不对。在本演讲视频,郭斯杰分享了 Pulsar 社区目前已有的 Pulsar 应用情况,并探讨在消息、流、数据管理和技术基础设施层面的技术演进。
李鹏辉
StreamNative 软件工程师,Apache Pulsar Committer/PMC 成员。李鹏辉曾任职智联招聘,期间他作为主要推动者将 Apache Pulsar 落地智联招聘。他的工作经历始终围绕消息系统和微服务,目前已全力投入到 Pulsar 的世界中。
翟佳
翟佳是 StreamNative 的核心工程师,也是 Apache BookKeeper 和 Apache Pulsar 项目 PMC 成员。他不断为 Apache BookKeeper、Apache Pulsar 和 Apache DistributedLog 做出贡献。在 StreamNative 工作之前,翟佳曾在 Streamlio 担任核心工程师,在 EMC 北京担任首席工程师和技术负责人。他主要致力于分布式存储服务和大数据基础架构。
Pulsar-as-a-Service:StreamNative Cloud 特性详解及演示视频介绍:Apache Pulsar 是下一代云原生分布式消息流平台。自从开源以来,Apache Puslar 凭借云原生的架构、流原生的存储设计以及丰富的企业级特性,得到了众多开发者的支持和青睐,Pulsar 的使用场景不断增多,功能不断完善,社区的版本不断向前推进。
在 Apache Pulsar 毕业成为 Apache 的顶级项目两年之际,Apache Pulsar 社区也迎来了 Pulsar 的主版本 2.7.0 的发布。在 Pulsar 2.7.0 中,新加入了开发者预览版的事务消息的支持;topic 级别的策略设置;Oauth2 的认证支持等新的功能;同时也对现有的功能做了增强,比如增强 Key-Shared 订阅模式的支持;增加了二级存储的类型支持;增强 Pulsar Functions 功能等等。在本演讲视频,李鹏辉和翟佳详细地介绍了这些新的变更。
杨阳
杨阳是一名 StreamNative 软件工程师,他的工作聚焦于 Pulsar, BookKeeper 和云平台方向。
Apache Pulsar 贡献者之旅:从新手到 Committer 那些事视频介绍:StreamNative Cloud 是业界唯一由 Apache Pulsar 的原始开发者提供支持的全托管、云原生的消息和事件流平台,提供了一种在世界不同区域、不同云平台上安全、便捷、可靠、可扩展、高效费比的托管式 Pulsar 服务。用户可以通过与平台的简单交互快速获取到一个调优过的生产级 Pulsar 服务,以与开源 Pulsar 完全一致的方式使用客户端进行访问,从而可以更多的专注于核心业务逻辑,无需关心运维部署细节。在本演讲视频中,杨阳介绍了 StreamNative Cloud 的功能、特性,并演示如何使用 Cloud 平台来创建和使用 Pulsar 服务。
陈航
陈航是 BIGO 大数据消息团队负责人、Apache Pulsar Committer,负责创建集中式的订阅-发布消息平台以支撑大量在线服务。他将 Apache Pulsar 引入到了 BIGO 消息平台并打通上下游系统生态,如 Flink、ClickHouse 及其他系统,以用来打造实时推荐和分析系统。他专注在 Pulsar 性能调优、新功能开发及 Pulsar 生态集成方向。
李鹏辉
StreamNative 软件工程师,Apache Pulsar Committer/PMC 成员。李鹏辉曾任职智联招聘,期间他作为主要推动者将 Apache Pulsar 落地智联招聘。他的工作经历始终围绕消息系统和微服务,目前已全力投入到 Pulsar 的世界中。
Function Mesh:让复杂的流工作更简单之道视频介绍:Apache Pulsar 社区热烈欢迎各个方面的贡献者!为 Pulsar 做贡献,不局限于代码,比如写案例、写教程、输出技术文章、举办 Pulsar 交流活动等等,都是参与 Pulsar 贡献的方式。截止目前,Apache Pulsar 拥有分布在世界各地的 315+ 名贡献者,令人称赞!一个开放、快速成长的 Apache Pulsar 社区正在吸引越来越多的人们参与进来!
吕能
吕能在 StreamNative 担任主管工程师,主要负责 Apache Pulsar 和其他大数据生态系统的集成开发。之前,他在 Twitter 担任高级软件工程师职位。他也是 Heron 项目的核心 Committer,并在 Twitter 领衔 Heron 开发工作,他也曾负责 Twitter 监控和 KV 存储系统开发。更早之前,他在浙江大学获得学士学位又在 UCLA 获得硕士学位。
Apache Pulsar 在 Yahoo!JAPAN 的故事:运维实践与未来展望(英文)视频介绍:Pulsar Function 是 Apache Pulsar 的一个简洁计算抽象,以帮助用户处理简单的 ETL 和流任务。Pulsar Function 的简洁包括在两个方面:一是接口简单,二是部署简单。只要用起来,你会发现在 Apache Pulsar 中就能原生支持多函数组合,着实便利。基于 Pulsar Function,人们就能轻松表达和管理多阶段任务。同时,这也为更高阶抽象 DSL 提供了可能性,以进一步简化任务处理,我们将此称为 Pulsar Funtion Mesh。在本次演讲视频,介绍了 Function Mesh 新功能与特性,比如设计原理、实现、使用场景以及示例,来更好地帮助大家利用 Apache Pulsar 这一新的强大工具。
Nozomi Kurihara
Nozomi Kurihara 是 Yahoo! Japan 的消息平台团队经理,负责创建集中式的发布-订阅消息平台,该平台基于 Apache Pulsar,用于处理大量的服务/应用程序流量。Nozomi Kurihara 还是 Apache Pulsar 项目的代码 Committer。
Apache Pulsar 在腾讯云的最佳实践与未来展望视频介绍:Apache Pulsar 作为 Yahoo!JAPAN 集中式的订阅-发布消息平台已上线运行达 4 年之久。之所以落地 Pulsar,就是看到了 Pulsar 在性能、可扩展性和多租户方面的优秀表现。实话讲,目前 Pulsar 在我们内部扮演重要角色,目前支撑 100+ 服务,覆盖电商、媒体、广告等诸多业务。在本演讲视频,Nozomi 分享了实践案例,如 Pulsar 如何支撑数万 Gbps 规模的日志通道数据,也分享了 Yahoo! Japan 4 年来的 Apache Pulsar 线上生产环境运维尤其是碰到的问题及解决方案,以及大家遇到的常见问题。
林琳
腾讯云高级工程师,活跃于开源社区,目前是 Apache Pulsar Contributor,专注于中间件领域,在消息队列和微服务方向具有丰富的经验。在加入腾讯后,林琳一直负责 CKafka/CMQ/mPass 的后端设计于开发工作,目前致力于打造稳定、高效和可扩展的基础组件与服务。
视频介绍:当我们在云上使用消息系统时遇到了诸多挑战,比如动态伸缩扩容、维护大量分区等等。在本演讲视频中,林琳分享了腾讯云如何利用 Apache Pulsar 解决上述问题。