A11

人工智能基础设施进入以“智能流通”为核心的新阶段

大模型API服务将从“幕后”走向“台前”

2026年02月09日 

  本报讯(记者 张伟) 1月29日,在清华系国产算力软件企业北京清程极智科技有限公司(以下简称“清程极智”)举行的清程AI Ping产品发布会上,来自政府部门、科研机构、云服务平台、大模型服务商及应用企业等多方代表,围绕大模型API(应用程序编程接口)服务的评测体系、生态协同展开深入交流。

  清华大学教授郑纬民表示,当前,人工智能基础设施(AI Infra)的核心任务正在发生变化。过去,AI Infra主要服务于大模型的训练与推理,解决“如何生产智能”的问题;随着模型生态不断丰富和智能体广泛应用,行业正在进入以“智能流通”为核心的新阶段,更加关注模型能力如何在真实业务中高效、稳定地被使用。

  郑纬民说,实现“智能流通”的关键在于智能路由能力建设,既包括在多模型环境下为不同任务选择最合适模型的“模型路由”,也包括在同一模型的多种API服务提供者之间进行性能与成本优化调度的“服务路由”。两类路由能力协同发展,将形成完整的AI任务分发网络,决定AI系统的最终效率和使用成本。

  清程极智CEO汤雄超表示,AI Infra的关注重点正在不断演进,从大模型训练与微调到推理部署的高性价比实现,再到应用阶段对服务稳定性和使用效率的更高要求。因此,清程极智长期围绕大模型训练、推理和应用3类核心场景开展技术实践,先后推出八卦炉训练系统和赤兔推理引擎,支撑大模型在多种算力环境下的高效训练与部署。随着AI应用和智能体快速发展,模型能力如何在真实业务中高效流通成为新的关键问题。基于这一背景,清程极智推出AI Ping平台(一站式AI评测与API服务智能路由平台),完善大模型应用阶段的基础设施能力。

  会上,清程极智联合20余家大模型API服务商共同启动“智能、可持续大模型API服务生态计划”,未来将围绕模型服务能力评估、评测方法论建设、行业交流与成果发布等方向持续推进,推动模型API服务从“可用”向“好用、易用、高性价比”演进。

  同时发布的《2025大模型API服务行业分析报告》显示,在模型与服务商高度多样化的背景下,API服务的核心竞争要素正从“价格差异”转向“交付质量”,包括响应时延、吞吐能力、稳定性与上下文支持等关键指标。实证数据表明,在同一模型条件下,引入智能路由机制,在保障可用性的前提下可实现显著的性能提升与成本优化,为大模型 API 服务走向规模化、长期化使用提供可验证的工程路径。

  “随着AI Ping平台的发布及生态计划的启动,大模型API服务这一长期处于‘幕后’的关键环节正逐步走向台前应用编程接口。”与会嘉宾认为,随着大模型应用不断深化,模型服务正在从可用阶段迈向精细化运营阶段,评测体系、服务路由与统一管理能力将逐步成为支撑下一阶段规模化应用的重要基础设施。

本期报纸需要付费才能阅读,请您去网站购买