商汤科技联合多家权威机构共同发布了《新一代人工智能基础设施白皮书》,为正在到来的AI 2.0时代勾勒出清晰的基础设施建设蓝图。白皮书明确指出,随着大模型技术引爆新一轮科技革命,人工智能基础设施的内涵与外延正发生深刻变革。传统的“算力中心”概念已无法满足AI2.0时代的需求,一个融合了先进算力、高质量数据、核心算法框架以及面向行业应用使能平台的“新一代AI基础设施”正在成为驱动社会经济发展的关键“新基建”。
AI 2.0时代的核心特征在于“大模型+大算力”驱动的通用人工智能能力跃迁。白皮书深入剖析了这一时代对基础设施提出的三大核心挑战:大规模算力集群的高效利用与管理、海量高质量数据的处理与治理,以及将大模型能力高效、低成本地迁移至千行百业的“最后⼀公⾥”。应对这些挑战,绝对不能仅靠硬件堆砌,更需要一套包括硬件、软件、平台、服务等多层次协同发展的完整体系。
尤为值得关注的是白皮书聚焦于“人工智能基础软件开发”的关键作用。在AI2.0的新基建中,基础软件是连接底层异构算力与上层复杂模型及应用的“中枢神经系统”。白皮书系统阐述了基础软件的几个重要方向:首先是训练框架,它决定了超大规模模型训练的稳定性与效率,如商汤自研的深度学习训练框架,需要具备高兼容性并支持超大规模的并行训练;其次是推理引擎,它在将庞大的、昂贵的大模型变得可广泛部署、低成本使用时处于核心地位,通过量化、裁剪、编译优化等手段,大幅降低模型推理的延迟和成本;三是数据管理与治理软件,其为大模型提供必需的训练语料“燃料”,解决数据汇聚、清洗、标注、版本管理和安全保障等全生命周期的难题。
AI基础设施的核心化也推动着开发范式的根本性变革。白皮书倡议,新一代基础设施应将大模型作为类似于电、水、燃气的基础动力源,构建“大模型即服务”的平台体系。开发者不再需要从零构建每一个深度学习模型,而是直接通过云原生API或开发套件调用大模型的下游能力这一基础设施应该能打通模型预训练、微调、部署全链条。例如通过一个统一的大模型体系和健全的工具链(包含数据处理、自定义微调框架、模型评估及集成至应用的一站式环境),甚至涵盖了提示工程和Agent(智能体)构建工具,能使终端开发者只需专心抽象更具创造力的场景创新。
白皮书的展望不仅局限于栈内传统IT的技术升级,更描绘了AI硬件重构与软件的协同重新定义整个IT产业价值链的新生态。其中还包括推动国产化芯片、框架与软硬一体适配的数据中心建设,通过“同根同源”或松耦合的AI基础软件支撑异构硬件的兼容与灵活迁移去规避各种“强制捆绑”的算力基建陷阱与浪费。这种抱薪引火的软件思维将通过改善性能就能普惠很多实实在在、丰沛美好的业务数字增量。