AI-NET在中训边推部署中的应用建议

llrraa

AI-NET在中训边推部署中的应用建议

AI 正在以新的方式改变行业、企业和消费者体验。生成式 AI 模型正在转向推理，  AI 代理正在实现新的成果导向型工作流，物理型AI则使摄像头、机器人、无人机和汽车等终端能够实时做出决策并进行交互。

所有这些用例的共同点是，需要普遍、可靠、安全和超快的连接。

电信网络必须为这种新型 AI 流量做好准备，此类流量可以直接通过前向回传无线接入网，也可以从公有云或私有云作为由企业应用生成的完全独立的 AI 推理流量进行回传。

本地通信基础设施提供了处理 AI 推理的理想场所。这是一种新的电信网络方法，即 AI-NET 。

一、AI-NET算力资源组成

按照中训边推部署策略，AI-NET算力资源主要由三部分组成。

首先是中心大集群，主要用于训练。

其次是边缘节点。为了降低时延，可以考虑优化网络架构，减少节点到终端的跳数。

再次是利用已有基于传统 CPU 或 ASIC 的 通信系统算力。由于忙闲时的存在，无线网、核心网、云等平均利用率通常远低于100%，存在较大的利用空间。如果把闲时的网络算力能够利用起来用于AI推理，则可以降低推理成本。

二、AI-NET优点

利用已有基于传统 CPU 或 ASIC 的 通信系统算力将网络从单一用途的基础设施转变为多用途的基础设施，并将站点从成本中心转变为收入来源。

通过对合适技术的战略投资，电信企业可以飞跃发展成为 AI 电网，促进各行各业、消费者和企业中 AI 的创建、分发和使用。这一时刻为电信企业带来了巨大的机会，可以通过重新利用其中央和分布式基础设施来构建用于 AI 训练（创建）和 AI 推理（分发）的网络。

参考文献：

20万基站全AI化，颠覆者又来了？

AI-RAN 上线，为电信企业带来新的 AI 机遇