在昨天举办的2023百度云智大会上,百度智能云正式对外宣布千帆大模型平台2.0全面、全新升级。
根据百度云官方介绍,千帆大模型平台2.0升级带来了多项改进:
1. 工具链整合:千帆大模型平台2.0将大模型开发、训练、部署和应用开发各个环节紧密结合起来。据介绍,千帆提供一站式工具链平台,可以无缝衔接全生命周期的各个业务流程,最大化提升效率。以前需要一个月才能调试、跑通看到大模型的效果,在千帆平台上只需一天即可实现。
2. 算力效能提升:千帆大模型平台底层是一套集合了异构算力集群、高速互联的网络和高性能存储的AI算力基础设施,能够支撑万卡规模训练的大模型。这将大幅降低大模型训练和推理的成本。
3. 数据增强:千帆大模型平台不仅支持管理大模型,还具备提升大模型能力的功能。全新升级的中文增强功能可大幅提升大模型的中文理解和生成能力。例如,国外大模型LIama2也可实现中文对话的良好效果。此外,整体训练和推理性能也得到全面提升,LlaMA 2的总体吞吐可以提升1/4,推理能力甚至能提升3倍。
4. 企业级安全保护:借助千帆的安全机制,企业可以构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对于对合规要求很高的客户,千帆支持国内、国外主流芯片和操作系统,同时支持私有化部署,确保每个企业自己的大模型都具备自主可控性。
此次升级还透露,截至目前,百度网盘“云一朵”智能助理累积使用人数已超过600万。
值得一提的是,千帆大模型平台是百度智能云推出的一站式企业级大模型平台,旨在为企业提供大模型开发全流程工具链和整套环境,帮助企业高效率、低成本地拥抱大模型。之前,千帆已完成第一轮升级,接入了LLaMA2全系列、ChatGLM2等33个大模型,成为国内拥有最多大模型的平台。现在,千帆纳管的国内外主流大模型达到了42个,并预置了41个有行业特色的数据集。月活企业数已接近万家,覆盖金融、制造、能源、政务、交通等多个行业的400多个业务场景。