在当今瞬息万变的电商市场，尤其是二手交易平台闲鱼，每秒都可能产生海量的用户行为、商品更新、交易动态和聊天消息。要实时处理这些每秒千万级的数据洪流，并为推荐、风控、搜索、监控等核心业务提供即时洞察，背后是一套极其复杂、高性能、高可用的实时数据处理服务体系。闲鱼的实现，是阿里集团多年大数据技术积淀与业务场景深度结合的典范。
一、 数据洪流的源头：统一采集与接入
一切始于数据的产生。闲鱼的实时数据源极其多样：
- 用户行为日志：点击、浏览、搜索、收藏、聊天等，通过埋点SDK收集。
- 业务数据库变更：商品发布、价格修改、订单状态更新等，通过阿里巴巴开源的Canal（基于数据库binlog的增量订阅与消费组件）实时捕获MySQL的变更日志。
- 消息中间件：各类系统间的异步消息，如交易成功通知。
这些数据首先被统一接入到阿里云SLS（日志服务）或Apache Kafka这类高吞吐、低延迟的消息队列中。这一步的关键是轻量级、高并发、保序的客户端采集Agent，以及服务端强大的分区（Partition）扩展能力，通过水平分片将每秒千万级的数据流分散到数百甚至上千个分区中并行处理，避免单点瓶颈。
二、 核心引擎：流计算平台的选型与优化
这是实时处理的“大脑”。闲鱼经历了从自研到拥抱开源，再到深度定制优化的演进。目前其核心是 Apache Flink，一个高性能、高可靠、精确一次（Exactly-Once）语义的流处理框架。
为何选择Flink？
- 低延迟与高吞吐的完美平衡：其基于流水线的执行模型，而非微批处理，使得数据处理延迟可低至毫秒级，同时吞吐量极大。
- 状态管理：内置强大的状态后端（如RocksDB），可以高效管理窗口聚合、用户画像实时更新等需要记住历史数据的计算。
- 事件时间与乱序处理：支持基于事件时间（Event Time）的窗口计算，并能通过水位线（Watermark）机制处理网络延迟导致的数据乱序，这对精准统计（如每分钟交易额）至关重要。
闲鱼团队对Flink进行了大量深度优化：
- 资源调度：与阿里云K8s、Flink on Yarn深度集成，实现动态扩缩容，在“双11”等大促期间秒级扩容数千个计算核心。
- 状态后端优化：针对RocksDB进行参数调优，并探索新型状态后端以降低访问延迟。
- SQL化与平台化：提供Flink SQL开发界面，让业务开发人员能更专注于逻辑而非底层API，提升开发效率。
三、 架构全景：分层与协同
闲鱼的实时数据处理服务并非单一系统，而是一个分层协同的体系：
- 实时计算层（Flink Jobs集群）：
- 实时ETL：对原始数据进行清洗、格式化、维度关联（如将商品ID关联到类目、卖家信息），输出结构化的实时数据流。
- 实时聚合：进行秒/分钟级别的窗口聚合，如实时GMV大盘、热门商品排行、地域分布热力图。
- 复杂事件处理（CEP）：用于实时风控，例如识别“短时间内发布大量相似商品”的欺诈模式。
- 实时特征计算：为推荐和搜索引擎提供用户实时兴趣向量、商品实时热度分等。
- 实时存储与查询层：计算结果需要被快速存储和访问。
- 高性能KV存储：如 阿里云Tair（Redis企业版） 或 HBase，用于存储实时画像、模型特征、计数（如商品浏览量）。它们提供亚毫秒级的读写能力。
- 实时OLAP数据库：如 Apache Druid 或 ClickHouse，用于存储聚合后的时间序列数据，支持业务人员通过BI工具进行多维度、快速的下钻分析。
- 消息队列：处理后的数据流再次写入Kafka，供下游多个业务方订阅消费，形成数据流闭环。
- 数据服务层：
- 提供统一的HSF/Dubbo RPC接口或 HTTP API，将实时数据（如商品实时浏览量、卖家信用状态）封装成服务，供前端、推荐、风控等系统低延迟调用。
四、 保障千万级处理的基石：稳定性与运维
- 端到端精确一次（Exactly-Once）：从数据源（Kafka）-> Flink计算 -> 数据汇（如HBase），通过Flink的检查点（Checkpoint）机制和两阶段提交（Two-Phase-Commit）Sink，确保数据在任意环节故障恢复后不丢不重。
- 智能监控与告警：
- 全链路监控：对数据延迟（Lag）、吞吐量（TPS）、CPU/内存使用率、Checkpoint成功率进行全方位监控。
- 业务指标监控：如实时GMV是否断崖式下跌，这可能是数据处理链路出现问题的信号。
- 自动故障恢复与降级：当某个Flink Task失败时，自动从最近的Checkpoint重启；当实时系统不可用时，可降级使用近线数据（如几分钟前的数据）作为兜底。
- 资源成本优化：通过混部技术（将在线业务和实时计算业务部署在同一批物理机上，利用其资源使用波谷）、弹性伸缩、计算任务合并（将多个小Job合并）等手段，在保障性能的同时控制巨大的计算成本。
###
闲鱼每秒千万级实时数据处理的实现，是一个集统一接入、Flink流计算引擎、多层次实时存储、标准化数据服务、强悍的稳定性保障于一体的系统工程。它不仅仅是一项技术，更是驱动闲鱼业务实时化、智能化的核心引擎。从你点击一个商品的瞬间，到系统为你推荐下一个可能感兴趣的物品，这背后正是这套实时数据处理服务在毫秒间完成的采集、计算与反馈。随着实时数仓（Real-Time Data Warehouse）和流批一体（Stream-Batch Unification）技术的成熟，这套体系将向着更简单、更统一、更智能的方向持续演进。
