11月20日，京东云城市大会于南京举办。会上，京东云展示了JoyAI大模型落地行业的前沿技术与应用实践，持续升级JoyAgent智能体等五大平台以及四大行业解决方案。京东集团技术委员会主席、京东云事业部总裁曹鹏称，大规模应用爆发会推动AI基础设施迈向标准化，AI Infra 1.0已然开启。

大模型应用爆发，AI Native基础设施亟需建立

伴随AI应用深入，给基础设施带来一系列全新技术挑战。以往基础设施核心标准是安全稳定、极致性价比；随着深度应用迅速渗透核心业务场景，应用规模不断扩大，原本以CPU为中心的架构愈发难以满足高并发、低延迟的AI业务需求。此变化体现于以下方面：算力基础设施方面，架构从CPU主导转变为CPU+GPU协同模式，需以GPU为核心重塑基础设施。国内还面临多样GPU型号造成的硬件异构兼容难题，需要一套高效混合计算平台，达成跨硬件的统一资源管理、调度与弹性伸缩。

数据与模型方面，围绕开源模型的定制化需求持续猛增，企业内部私有数据的安全接入、合规使用成为核心痛点。AI全生命周期（开发、训练、部署、调度）的高效流转，需依靠成熟的模型开发平台提供端到端支撑。

Agent与垂直应用方面，应用场景向细分领域深度渗透，Agent的快速开发、轻量化部署及与算力/模型平台的无缝协同，需要灵活的Agent开发平台予以支持。

AI Infra 1.0开启，京东云全栈AI产品助力深度应用落地

依据AI Infra 1.0的标准，京东云已形成全栈大模型产品及服务，以支持大模型的部署及应用：从底层基础设施，到中间的模型服务和工具，再到Agent应用开发这些产品经过京东集团大模型的落地检验，也在服务众多行业客户。

面向AI算力需求，京东云作为行业中最早大规模部署混合算力的云厂商，拥有超3700万个核容器集群，历经“618”“双11”“春晚”等极限场景检验，建立起行业领先的混合算力技术储备。这些优势在京东云JoyScale AI算力平台中充分展现：平台不仅与华为昇腾、海光、寒武纪等国产芯片深度合作，还实现从内核层统一调度英伟达及国产芯片，为企业提供高效自主的算力管理。

在模型训推方面，得益于自研推理引擎，京东云JoyBuilder模型开发平台实现卓越性能，训推全面加速。JoyBuilder内置超百种开源模型和多样化数据集，提供100多种算法和组件，能帮助客户依据自身业务特征快速开发专属大模型，并基于丰富的开发工具打通多模态数据湖仓，在提升实时推理响应的同时大幅降低使用成本。

除模型及算力外，数据作为人工智能三要素之一，其安全合规是决定AI应用效果的关键。京东云基于多年数据安全技术沉淀，打造了安全可信数据空间，100%采用国密算法，实现全链路加密防护；通过安全可信加工能力，在 “可用不可见” 的安全沙箱中使用，确保数据流通安全可靠.

此外，面向Agent应用，京东云将JoyAgent智能体平台与JoyCode智能编码平台紧密协作，构建支持深度应用的AI开发新范式。这种以Agent简化代码、代码反哺Agent的闭环，会使AI开发愈发自动化、智能化，最终实现 “从开发者少写代码，到开发少写代码”。两者通过AI Store实现无缝协作，形成持续进化的闭环：开发者可灵活组合智能体能力与编码逻辑，快速构建复杂、深度定制的AI应用。

（文章来源：上游新闻）

原标题：AI Infra 1.0启幕：京东云全栈AI产品支撑深度应用落地

郑重声明：信查查发布此内容旨在传播更多信息，与本站立场无关，不构成投资建议。据此操作，风险自担。