智客公社

标题: 洞察千万级车联网 MQTT 消息平台架构设计 [打印本页]

作者: 正午的阳光 时间: 2022-6-23 16:27
标题: 洞察千万级车联网 MQTT 消息平台架构设计

前言随着整个汽车出行领域新四化(电气化、智能化、联化和共享化)的推进，各个汽车制造厂商正逐步构建以智能驾驶和智能联为核心的车联系统。新一代的车联系统对于底层消息采集、传输和处理的平台架构提出了更高的要求。加速器的相关问题可以到网站了解下，我们是业内领域专业的平台，您如果有需要可以咨询，相信可以帮到您，值得您的信赖！https://www.tiandiapp.com/

本系列专题的上篇文章《车联场景中的 MQTT 协议》中我们已经提到， MQTT
协议是目前比较适合车联场景数据平台搭建的通信协议。基于此，本文中我们将继续讨论车联场景中的 MQTT 消息采集与传递，以及如何构建一个千万级车联 MQTT
消息平台，以期为正在进行车联业务的企业用户提供平台架构设计参考。

车联的基础：消息采集与传递车联传输协议的演进众所周知，车联(--，V2X)是指车与云、车与、车与车、车与路、车与人、车与传感设备等交互，现车辆与公众络通信的动态移动通信系统，是为了满足与车有关的每一个环节中的效率、安全、管理等元素而建立起的异构通信络。而运行于其中的通信协议就成为车联系统建设的关键和核心。

在车联发展的历程中，主要有两种主流的通信技术，对车联整体发展起到了推动作用：

DSRC(DDIC S R CIC，专用短程通信)：1992 年由美国材料试验学会 ASTM 针对 ETC 的业务场景研发而出，后经多年完善和迭代，演变为 IEEE(8021X) 车联通信技术标准。在相当长的一段时间里，DSRC 技术是国际汽车主流生产和消费市场使用的主流车联通信协议。**C-V2X(C VE，蜂窝车联通信)：**C-V2X 依托现有的蜂窝基站，除了支持 PC5的直连通信，RSU、车辆均可通过 45G 信道(采用 U 接口)与 V2X 平台相连，现车路协同通信。较之 DSRC，C-V2X 技术上更，它增强通信的安全性与保密性，支持高络容量，可支持高带宽和大数据量需求。DSRC 和 C-V2X 技术的竞争非常激烈，两者都希望能够成为主流车联通信标准。目前，我国拥有比较完善的 5G 通信络的基础设施，因此更倾向于采用
C-V2X(LTE-V 、5G-V2X)通信技术，通过 V2X 车路系统+单车智能系统的体系化建设，现基于自动驾驶的新一代车联架构。

消息平台建设对于车联的意义在车联建设高速发展的今天，所有的主机厂业已形成了一个共识:
车联建设的目的不是为了联而联，也不是为了车载娱乐而联，联是为了数据。有了车联，就有了数据。有了数据，辅以完整的数据治理和应用体系，就有了一切。

而这个业务的目标数据，也不仅仅限于车端的相关数据。在 V2X
框架中，需要解决车与车(V2V)、车与路(V2R)、车与(V2I)、车与云(V2C)、车与人(V2H)等的互联互通，现针对车、路、云、、人的全面数据采集和分析。基于
5G 的 C-V2X 协议和通讯方式，为整个系统的建设提供基础能力保障。

从传统的 OTA
应用到智能座舱、高精地图适配、厘米级定位、车机端长连接、手机端消息采集、车路云图、车路协同等众多新型智能应用场景，车联业务对于消息平台和数据处理系统的需求已从原始的车云扩展为人-车-路--云的整体架构建设，也因此对整个消息平台的建设提出了更高的要求。

如何建设一个海量连接、高并发吞吐、低时延的消息通信和传输系统架构，来保证整个系统的泛在性、便利性、高可用性、可靠性、安全性和高并发性，就成为了基于自动驾驶和车路协同场景下新一代车联系统建设的关键所在。

千万级车联消息平台架构设计接下来我们将以 EMQ 的车联消息平台和数据处理整体解决方案为例，介绍如何构建一个千万级的车联消息平台。

业务挑战(1) 车机、路测单元和手机端系统安全接入

车端需要涵盖车机数据上报、POI 下发、推送文件、下发配置、推送消息、运营关怀等全新车联业务，产生的海量消息 T
需要更加安全稳定的接入与传输现消息订阅和发布。路端需要现路侧 RSU 的安全接入，消息采集和传输、地图数据的传输等。

(2) 大并发消息传递的时性和可靠性

高精地图、厘米级定位、车路协同等应用场景均需要解决海量车路图消息的毫秒级低延时和高可靠的传输能力保障，需要消息处理平台具备高性能、低延时、高可靠支持千万连接和百万并发业务场景的能力。

(3) 丰富的应用场景集成

在以自动驾驶为核心的车联系统中，需要使用消息平台对接各种基于人、路、图、云相关的应用对接。将车端数据通过消息平台同高精地图、厘米级定位、车路协同、手机端连接等应用场景进行连接，通过消息平台保障应用的消费供给，并提供高性能、低延时和高可靠的数据架构。

(4) 海量数据存储、处理和分发

来自于人、车、路、云、图、的海量物联数据被采集后，需要针对这些大规模时数据流的接入、存储、处理、分发等环节进行全生命周期管理，为应用提供针对动态连续数据流的数据库支撑，支持应用深度使用车联数据服务于消费者，进行商业决策。

整体解决方案在方案中我们主要采用 EMQ 旗下的云原生分布式物联接入平台 - EMQX，现车联系统中车端和人、路端的数据连接、移动和处理。EMQX
一体化的分布式 MQTT 消息服务和强大的 IT 规则引擎，可为高可靠、高性能的物联时数据移动、处理和集成提供基础能力底座，助力企业速构建关键业务的
IT 平台与应用。

(1) 针对车端的消息处理

EMQX 采用 MQTT 协议接入车联系统。车机端通过负载均衡与 EMQX 分布式集群进行连接，EMQX
的横向扩展能力可现千万级车机连接和百万并发响应的数据通信能力。通过规则引擎，可一站式现海量消息桥接消息队列、持久化入库、离线消息存储等能力，同时提供丰富的API
原子能力北向集成。

在安全方面，EMQX 不仅支持 TLSDTLS 或国密 GMSSL 安全协议，保障系统可靠与稳定;还提供心跳监测、遗嘱消息、QS
等级等多重保障机制，通过离线消息存储现在复杂的络环境下时、安全、可靠的车机消息通信。

(2) 针对人、路端的消息处理

EMQX 为人、路端提供针对手机 APP、RSU 等终端的消息采集和处理平台。基于 5G
络切片能力，通过个人终端和路侧单元的就近接入，现超低时延的交通信息服务。通过 MQTT
等协议将人端、路侧设施感知到的路况信息推送到云控平台，通过云控平台融合 V2X 算法现道路协同感知知、安全提醒、远程协同控制等智能交通场景。

在安全方面，支持国际标准的 TLSDTLS 加密或国密算法 GMSSL 加密，通过扩展基于 PKICA
证书认证体系保障人车路信息系协同的安全通信。

千万消息接入框架模型针对新一代车联场景，EMQ 千万级连接规模和百万级并发的整体消息接入和数据处理平台参考架构如下：

业务场景：车联体系中的车辆、手机APP 端、路侧 RSU 等设备等通过 MQTT 接入，现对千万量级的以上终端的并发接入能力。**系统架构：**终端设备通过 MQTT、HTTP 等协议接入，经过负载均衡组件连接至分布式消息平台 EMQ X。通过分布式多集群部署满足千万并发连接需求，按照百万级消息吞吐能力，通过规则引擎对接 K 集群现数据的转发。车联服务平台、高精地图服务、V2X 云控服务、定位服务和其他车辆相关应用可以直接通过订阅 K 数据进行消费，同时 EMQ 提供了 REST、MQTT 和 MQ 消息队列种南向接口服务现对车控(远程控制)消息的双向通信。通过以上参考框架，EMQ 通过 EMQX 云原生分布式物联接入平台可现车联场景下的千万连接、百万并发吞吐的业务需求。

千万级消息接入测试测试环境和目的某车企计划在车联场景下，基于测试环境验证 EMQX 集群的以下能力，为后续业务增长做相应的技术架构和能力支撑准备：

可支撑 1000 万并发连接，同时支持每秒 10 万～15 万、为 100 字节的 QS 0 消息通过规则引擎桥接到 K；1000 万并发连接订阅、消费 OTA 广播主题；300 万用户同时连接不会造成集群雪崩，并测试连接所需时间。另外，在完成上述所有测试后，继续探索在目前配置下 1000 万并发的同时可支持的比较高消息发送并桥接转发至 K 的吞吐量(根据 EMQX
集群资源使用情况提高客户端消息发送频率)，以及测试在 1000 万连接下满足 QS 为 2 且平均响应时间在 50 毫秒内的比较高消息吞吐。

测试准备

客户端通过 TLS 加密连接负载均衡 ELB，然后在 HAP 对客户端进行 TLS 终结，比较后通过 TCP 连接至 EMQX 集群。通过在
HAP 上终结 TLS 的方式可以提高 EMQX 集群的支持能力，在这种部署模式下 EMQX 的处理能力和客户端直接通过 MQTT TCP
连接是完全一致的。另一方面，相比 MQTT TCP 连接，客户端通过 TLS
连接也需要消耗更多的资源，而本次测试规模为千万级，所需的测试机数量众多，为了减少所需测试资源的同时不影响对 EMQX集群的测试目标，本次测试将直接使用 TCP
连接。

测试场景

测试结果以下是本次测试的结果呈现：

小结如以上结果所示，在目前的部署架构下，可以满足该车企对于千万并发连接 +20 万消息桥接至 K、消息广播及 300
万瞬时并发连接的验证需求。在探索测试中，1000 万连接下测试到比较高 120 万消息 TPS(QS 0、 1B)，测试持续 10 小时
EMQX 集群稳定，CPU比较低至 20%，内存使用平稳。

由以上可知，EMQX 在车联场景下支持千万连接性能表现突出，架构稳定可靠。

压力测试工具简介和使用本次测试由于所需测试机数量多，管理复杂，故使用 EMQ 旗下商业版测试软件 XM 性能测试平台和 JM-MQTT 插件进行。

XM 是基于开源测试工具 JM 扩展的性能测试平台。针对物联具有的接入规模大、弹性扩展要求、多种接入协议、混合场景等特点，XM 对 JM 进行了改造，可以支持大规模、高并发的性能测试，比如现千万级别的 MQTT 并发连接和消息吞吐测试。除了测试 MQTT 协议之外，还可以支持 HTTPHTTPS 等主流的应用的测试。JM-MQTT 插件是由 XM 现的开源 MQTT 性能测试插件，在众多的项目中得到了使用，目前是 JM 社区中流行度比较高的 MQTT 插件。写在比较后通过本文，我们介绍了基于云原生分布式物联接入平台 EMQX 的千万级车联 MQTT
消息平台架构设计，并验证了该架构在千万级并发连接场景环境下的性能表现，为车联系统的消息数据平台建设提供了一种可能的设计参考。

EMQ
作为全球领先的物联数据基础设施软件提供商，致力于构建高性能、低延时、高可用、高可靠的产品，为新一代车联体系提供消息采集、移动、处理和分析的整体解决方案，为整车制造商、T1
供应商、后市场服务商、出行服务和管理机构的自动驾驶、智能联汽车业务提供基础设施服务保障，现人、车、路、云的智能连接。

欢迎光临智客公社 (http://bbs.cnaiplus.com/)