腾讯吴运声：行业大模型全新升级，深耕产业推进“效能革命”

9 月 7 日， 2023 腾讯全球数字生态大会于深圳成功举办。会上，腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声发表主题演讲，重点分享了腾讯云行业大模型的最 新能力升级、落地实践。

他提到，随着大模型逐步走出“尝鲜期”的探索阶段，产业实践已成为衡量这些模型价值的重要标准。“智能化的后半场，腾讯云智能在坚持投入AI技术研发的同时，一直专注于产业实践，强调技术的务实可行和产品的安全可靠。”

基于此，过去这段时间以来，腾讯云MaaS能力不断升级，希望能够助力客户更快、更经济地应用大模型，以抓住AI大模型时代的发展机遇。

（腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声）

吴运声认为，AI大模型的应用正逐步渗透到千行百业的各个环节，包括设计、研发、生产、营销和服务等。从对话式客服到营销内容生成，再到跨模态检索和风险控制，大模型的应用正在展现出更强的能力、更高的效率、更广泛的应用场景和更深的潜力。一场由“大模型”驱动的“效能革命”正在悄然发生。

在此背景下，腾讯云从产业客户实际需求出发，基于自研的腾讯混元大模型，同时支持业内主流的开源模型应用，从技术底座、平台能力和智能应用三个维度不断升级MaaS能力，助力客户构建专属大模型和智能应用，推动大模型在产业中的落地应用。

在大会现场，吴运声也针对三大升级点进行了逐一详解。技术底座升级使得腾讯云能够为客户提供更强大、多样化的基础模型；TI平台工具链的升级，保证了训练任务的高效稳定运行，同时提供了任务管理、模型优化和部署支持，使客户能够更轻松地实现模型的落地应用；通过智能应用的升级，腾讯云为客户提供了多款即插即用的产品，这些产品将AI大模型技术与实际业务相结合，为客户提供更高效、更自然、更智能的解决方案。

作为腾讯产业互联网生态系统中的重要组成部分，腾讯云智能始终强调“云智一体”的重要性和必要性。致力于在技术研发和产业实践之间取得平衡，不断拓展AI在产业领域应用的“纵深度”。

吴运声表示，“未来，我们将持续打磨MaaS能力，携手广大客户和合作伙伴，共同拥抱AI大模型时代的‘效能革命’。”

以下为演讲全文：

大家下午好！

我是腾讯的吴运声，今天我的分享主题是《腾讯云MaaS升级，深耕产业推进“效能革命”》。

刚刚大家也看到了汤道生与蒙牛卢总数智人互动。

接入AI大模型能力后，数智分身可以根据提问，实时生成答案，并匹配相应的表情和动作。这也是过去这段时间，我们的MaaS能力升级成果之一。

两个多月前，我们正式发布了腾讯云行业大模型解决方案，致力于打造模型精选商店，为客户提供一站式MaaS服务。我们认为，产业场景是大模型最 佳练兵场，这一方向，也很快成为行业共识。

过去这段时间，我们也在持续迭代、升级MaaS能力，希望帮助更多的客户，快速、低成本落地大模型，抢先抓住AI大模型时代的发展机遇。

当前，AI大模型的发展与应用，给整个云服务市场带来了新的增量。大模型的应用，正在逐步贯穿到企业的设计、研发、生产、营销、服务全流程，助力企业创新的同时，帮助员工提效，加速云智一体进程。

当前，国内大模型发展可谓是“百花齐放”，据不完全统计，参数在 10 亿规模以上的大模型就超过 70 个；经过过去一段时间的发展，企业在大模型方向的探索已经度过了“尝鲜期”，“产业落地”成为评估大模型价值的重要标准。在今天上午的生态大会上，腾讯也正式公布了自研混元通用大模型，为我们行业大模型服务提供坚实的底座能力。

尤其大模型在金融、零售、文旅、政务、出行等各个领域的深度应用，其“提质增效”的效果已逐步显现，大模型的应用场景也涵盖了对话类客服、营销内容创造、跨模态检索、风控等企业核心生产和经营环节，表现出更强的能力、更高的效率、更广的场景、更深的应用。一场由“大模型”驱动的效能革命正在发生。

依托腾讯云多年深耕产业互联网的经验，我们从产业客户需求场景出发，基于自研腾讯混元大模型，同时支持业内主流开源模型应用，从技术底座、平台能力、智能应用三个维度持续升级MaaS能力，助力客户构建专属大模型及智能应用，加速模型产业落地。

我们打造的模型精选商店，为客户提供了不同规模的模型。通过升级大模型训练、精调工具链，可以帮助客户更快、更低成本的打造专属模型。同时，腾讯云有非常广泛的PaaS、SaaS产品，这些是我们行业大模型非常好的试炼场。

通过技术底座的升级，我们可以为客户提供能力更强、更多元的基底模型。

混元大模型，构筑了腾讯云MaaS坚实的底座。今天，混元也正式面向行业客户开放，客户可直接在腾讯云上通过前端交互和API调用体验；也可以以混元作为基底模型，直接在公有云精调。

同时，腾讯云TI平台也全面接入了Llama 2、Falcon、Dolly等主流开源模型，支持系列模型的直接部署调用、应用流程简单。

客户可根据需要，在 TI 平台上一键完成模型部署，测试这些开源模型的效果，实现模 型选型。

客户也可以通过TI平台一键启动精调任务，对这些开源大模型进行精调。腾讯云TI平台提供的多机多卡、断点续训的能力，可以保障训练任务稳定高效地运行；训练监控能力，可实时监测训练指标和资源利用率情况；任务管理能力，可自动管理模型多次迭代的训练任务，记录每次训练任务的超参快照，快速还原训练现场。

通过平台能力的升级，我们可以为客户提供更完善的工具链。

升级后的TI平台工具链，具备高性能的大模型精调与部署能力，覆盖大模型开发、应用全生命周期。我们在大模型精调最核心的算力、存储方面进行了大幅升级。比如，算力方面接入了腾讯云HCC高性能计算节点及星脉高性能计算网络，提供3.2Tbps的网络带宽；存储方面接入了Turbo-CFS分布式存储，最 大带宽可达到100GiB/s，大幅提升了跨机器的多机多卡训练性能。

在全新升级的TI平台工具链加持下，客户只需加入自己独有的场景数据，进行精调训练，就可快速尝试多种大模型，并根据自身业务场景需求，在短时间内精调出专属的模型方案。

在加速方面，全新升级的太极Angel大模型加速框架，通过异步调度优化、显存优化、计算优化等方式，相比行业常用方案性能提升30%以上。

通过智能应用升级，为客户提供丰富的、即插即用的产品。

腾讯在AI技术领域有长期投入和积累。过去我们非常多的AI能力，都是率先在内部产品中应用，这是腾讯AI的内生动能。

今天，我们的大模型能力，也正在重塑腾讯云广泛的PaaS、SaaS产品。这些探索实践，也进一步验证了我们MaaS能力的可用性、易用性。

围绕客服场景，今年 6 月腾讯企点发布了全新一代智能客服，引入大模型能力，针对对话交互、人工辅助和知识构建三个层面进行提升。过去两个月，我们进一步升级了管理端配置能力，提升知识构建效率，优化C端用户体验。同时，我们积极与各行各业进行产业实践，在文旅、政务、地产等领域落地标杆案例。

基于分析大模型，我们升级推出腾讯企点分析AI助手，覆盖对话式分析，辅助数据配置，提取智能结论、一键生成报告四大场景。今年 9 月，企点分析AI助手正式向大客户开放内测申请。未来，人人都能拥有专业数据分析能力，让数据跑得更快，为业务一线提供决策支持。

此前，我们推出了数智人工厂。今天，在AI大模型技术的加持下，我们全新发布“通用口型”版小样本数智人，无需训练，上传素材后，将小样本数智人的生产周期，从原来的 24 小时缩短到只需要 1 个小时，大大提升了数智人的生产效率。在大模型技术的加持下，我们的数智人可以实现更高效、更自然、更智能的效果。

在内容创作领域，我们与阅文集团在文生图、图生图的推理部署和加速中达成合作。

在文生图、图生图场景中，面向C端用户提供高QPS、低耗时的方案。而且模型本身推理部署成本高昂，推理吞吐和时延存在瓶颈。阅文基于腾讯云TI平台搭载的Angel推理加速引擎，推理能力平均提升30%，在文生文领域，更是把成本降低到原来的四分之一。此外，TI平台提供动态batch和自动服务调度机制，大幅提高了服务吞吐量。

作为数字化助手，我们将持续打磨MaaS能力，携手广大客户、合作伙伴一起，共同拥抱AI大模型时代的这场“效能革命”。