重庆人工智能创新中心成功孵化首个大模型解决方案

(资料图片仅供参考)

近日，重庆人工智能创新中心成功孵化首个大模型解决方案，云从科技“从容大模型训推一体机”顺利完成孵化和部署。华为作为国内最早布局大模型的云服务商之一，一方面，深耕算力，打造强有力的算力底座来支撑中国的人工智能事业发展；另一方面，从通用大模型到行业大模型，真正实现人工智能服务好千行百业、服务好科学研究。

在重庆人工智能创新中心技术团队、昇腾研发专家、云从科技人工智能研究院的共同努力下，“从容大模型训推一体机”在一个月内顺利完成精度与性能对齐、产品集成与测试等工作，成为重庆人工智能创新中心孵化的首个大模型解决方案。

“从容大模型训推一体机”基于昇腾AI基础软硬件平台，包括昇腾AI服务器、异构计算架构CANN和全场景AI框架昇思MindSpore，同时兼容PyTorch，单机2.5 PFLOPS FP16算力，训练性能超8000 tokens/s，支持多机组网部署及企业私有化部署，满足数据不出厂的信息安全要求。

“从容大模型训推一体机”内置云从科技自主研发的从容大模型生产平台，助力企业打造专属行业大模型，实现5倍效率提升。模型参数规格十亿、百亿、千亿可选，结合云从传统视觉优势，提供语言、视觉和多模态三类基础模型，利用企业私有的行业和场景化数据，进行SFT、RM和PPO等强化学习和模型精调，为基础模型注入专家知识和专家技术，使之在企业关注的领域内变得足够智能和精准，打造行业大模型，进而服务企业的业务场景，提升业务效率和产品竞争力。在参数和loss曲线收敛对齐的条件下，基于昇腾和昇思MindSpore的模型训练性能是业界的1.6倍，且推理问答结果更为优质。

昇腾AI与产业界共同构建了从规划、开发到产业化的大模型全流程使能体系，共筑中国大模型生态，已孵化和适配了30多个主流大模型。同时在遥感和多模态两个领域成立的产业联合体，已经吸引了80多家科研机构和企业加入，联合孵化出100多个行业新应用。

展望未来，昇腾AI将努力做好基础软硬件平台，携手云从科技推进AI走深向实，在重庆探索一体机赋能城市特色产业，形成具有示范效应的应用案例，为各个行业提供更为全面的提升，帮助企业实现持续高质量发展。

（文章来源：上游新闻）

关键词：