百度智能云千帆，产业创新新引擎

3月21日，AI Cloud Day：百度智能云千帆产品发布会在北京举办。会议聚焦百度智能云千帆大模型平台最新进展，分享思考与实践。百度智能云在发布会期间宣布：

>>满足企业“效价比”核心诉求，千帆ModelBuilder大模型服务全面升级，3个轻量级大模型、2个垂直场景模型集体问世；

>>大幅降低AI原生应用开发门槛，千帆AppBuilder全面升级；

>>携手北京市石景山区，共建全国首个百度智能云千帆大模型产业创新基地，助推区域产业腾飞。

会上，百度副总裁谢广军发表了以“百度智能云千帆，产业创新新引擎”的主题演讲，分享了千帆AppBuilder、ModelBuilder的最新产品进展。谢广军在演讲中表示：大模型技术在过去一年飞速发展，随着逐步落地千行百业，2024年将成为国内大模型产业应用爆发的元年。针对企业最关心的大模型落地场景、使用成本、应用开发、应用效果四大挑战，百度智能云千帆平台在大模型、AI原生应用开发两个方面给出了最新“解题思路”，助力企业业务核心场景，实现最优效价比。

百度副总裁谢广军

以下为演讲实录：

各位领导、来宾、媒体朋友们，大家上午好，很高兴今天在石景山首钢园，和大家一起沟通和探讨大模型的发展趋势，以及百度最近一段时间的思考和实践。

自去年3月27日发布千帆大模型平台到今天刚好一年的时间，过去这一年，国内外的大模型都在迅速发展，尤其应用的爆发趋势更加明显。从发展趋势来看，有这么几个特点：

>>第一，大模型的技术在不断进步优化，通过模型架构改进、训练算法的调优等，大模型的效率和性能都得到了显著提升。

>>第二，行业应用场景的成熟，大模型在各种行业已经开始落地应用，这些实践经验激发了更多行业的兴趣和投入。

>>第三，政府、投资机构对人工智能技术的支持不断增加，为大模型的研发、部署和应用提供了更多资源和机会。

>>第四，人们对人工智能技术的理解和接受度不断提高，用户对于智能化、个性化服务的需求，也推动了大模型在各种场景中的应用。

在过去一年与企业的实际接触过程中，我们发现：企业面临着几大挑战：

落地场景的探索
应用开发的门槛
推理和训练的成本
落地应用的效果

为了解决这些挑战，帮助企业用户落地，千帆给大家提供了一整套的大模型开发工具，从算力到模型、应用开发，层层结合，为企业提供大模型服务的超级工厂，帮助企业降低成本、提高效率和模型应用的效果。

千帆平台自发布以来一直保持着一个高速的增长趋势，跟去年12月比，千帆的日均季度环比增长了97%，翻了接近一倍。

同时，我们也很高兴地跟大家宣布，千帆平台服务客户数，突破了8万，最近一个月就增长了近1万。平台上已经精调出1.3w个模型，并且开发应用数也达到了16w的规模，基于这些数据大家也可以看到，大模型已经真正进入到了快速增长的阶段。

未来，千帆也将帮助企业客户、开发者看到更多的“创新机会”。

随着千帆的客户数量不断增多，我们感受到，大家关心的是怎么把大模型“用起来”，真正给企业业务带来价值。

今天，我就为大家带来全新升级的AI原生应用开发平台AppBuilder，以最好的应用效果、最优的开发体验支撑AI原生应用的繁荣。

千帆AppBuilder，是一个产业级的AI原生应用开发平台，它可以帮助广大的客户和开发者不断降低应用开发门槛。

AppBuilder底层由基础组件和高级组件构成。

在基础组件中，包含大模型组件、AI能力组件等，这些组件都是基于百度多年的技术和实践经验沉淀的。

除了基础组件，AppBuilder还面向典型的应用场景，深入调优建设了一系列高级组件，比如知识问答类的RAG、具备运算能力的代码解释器，以及生成式数据分析GBI等。

基础组件和高级组件共同支撑Agent，一方面可以通过工作流编排实现更为复杂的业务逻辑，另一方面Agent也具备强大的自主任务规划能力。

所有这些底层能力，通过代码态和零代码态两种形态提供服务。同时，多渠道对外集成分发。

千帆AppBuilder具备三大核心优势特点，

>>第一，应用效果领先：具备高精度知识问答效果，及精准的自主任务规划能力；

>>第二，组件多元化且支持自定义接入；

>>第三，产品开放易用。

接下来给大家带来详细的介绍：

讲应用效果就离不开场景，知识问答（也就是RAG）是大模型最典型的应用场景之一。

AppBuilder在这个场景建设了企业级全链路检索增强的应用框架及周边工具，并做了很多深入细致的优化工作，使得知识问答效果达到更好的水平。这里包括底层基座模型的SFT调优，也包括文档解析、语义匹配、问题拆解等各环节的策略优化。

通过这些优化，AppBuilder的RAG在多场景问答准确率、友好回复、准确拒答等方面可接受度达95%以上。

大家可以看到右边这组知识问答效果对比数据，AppBuilder产品的效果，超越了其他同类产品的效果。

另一个非常典型的应用场景是Agent，AppBuilder也构建了具备精准自主任务规划能力的Agent框架，可实现多工具自动编排，准确率90%以上；官方提供可被编排工具近30种，覆盖电商/互娱/办公/专业服务等主流场景。

同时，AppBuilder支持开发者接入自定义工具，通过自动编排与手动编排的结合，实现复杂场景需求的定制；

另外，代码解释器的效率与效果持续提升，相比升级前性能提升40%、数据分析场景可接受度提升到95%。

下面，我们来看一个视频，这个视频核心呈现的就是Agent的精准自主任务规划能力。

我们可以看到，面对不同的任务，Agent通过自主调度不同的工具组件来精准回答用户的各类问题。

AppBuilder具备丰富的组件工具，目前已扩充到55个，这些组件包括基于百度技术积累和自有业务沉淀的大模型能力组件，如多轮改写、复杂Query分解等，AI能力组件，比如TTS、OCR、图像识别等，通过大小模型联合及业务场景化工具组件，共同支撑AI原生应用的开发；

另外，还有百度独家开放的业务组件，如：百度搜索，在这方面百度有着深厚的积累。还有一些业界主流场景的第三方API，比如航班查询、论文查询等；

同时，支持用户接入自定义组件，我们还提供百度基础云的一些组件，比如BES等，这里特别提下向量数据库VDB，它也迎来了一次全新的升级。

向量数据库是企业不可或缺的知识库核心组件，它针对传统知识库问答系统所遇到的性能瓶颈、维护挑战及规模限制等问题提供了有力解决方案。

VDB1.0，这一革命性的数据库内核，不仅集成了全面的运维控制和安全防护能力，还兼容了千帆、LangChain等主流生态系统，使企业能够轻松管理数以千万计的文档知识。

在性能表现上，VDB与同类型开源产品相比，其在不同应用场景下的性能有不同程度的提升，最高可达10倍，真正实现了毫秒级的向量检索速度。

同时，在扩展性方面，支持最大百亿级别的向量数据存储，以及秒级的弹性伸缩响应。这些突出优势确保了VDB能够伴随企业业务的不断发展而升级，持续满足日益增长的业务需求。

再回到AppBuilder，它的第三大优势是开放易用，首先体现在：主流场景的工具组件开放可灵活编排，提供丰富的应用示例，用户一次鉴权全部接入；其次，提供开源的RAG和Agent SDK ，支持二次开发。本次升级后，最快只需要三步即可完成应用的创建与开发，还可一键对接百度灵境矩阵、微信公众号、微信客服、Web端/H5等渠道。这里也特别说一下百度灵境矩阵，此次与灵境矩阵的打通，应用将有机会在百度强大的搜索场景中轻松实现分发和挂载，同时也能融入百度的信息流场景，吸引更多潜在用户的目光。

下面，我们就来看一个从0到1快速搭建应用的示例。

现在很多家长辅导孩子写英语作业就很痛苦，那么我们现在用AppBuilder这样一个平台，就可以创建一个【英语作文批改小助手】来辅助家长。

大家看到，这样一个应用的搭建，不到1分钟即可完成。

目前，已经有好几万的开发者和伙伴，通过AppBuilder创建出各种场景的AI原生应用。

刚才讲解的是如何帮助企业快速去搭建应用。除了降低企业的应用开发门槛，企业还会有另外一个需求，就是我的应用效果怎么能够做好，这个背后是通过我们的各种基座模型的能力去实现的。

今天，在千帆大模型平台上的模型迎来了关键升级和全新模型发布，首先让我们来一起看下文心大模型3.5和4.0的重磅升级。

首先，为大家介绍文心大模型ERNIE 3.5的重磅升级！ERNIE 3.5在我们服务的云客户、AI开发者中均得到了高度认可。

升级后的ERNIE 3.5，在指令遵循、上下文学习和逻辑推理能力都有显著的效果提升，同时我们可以看到企业核心的文案创作、信息抽取、工具调用场景都有不同程度的效果优化。

那除了普遍应用的ERNIE 3.5，另一个受到行业广泛关注的大模型ERNIE 4.0，它在理解、生成、逻辑、记忆能力等方面均达到业界顶尖水平。经权威机构测评，ERNIE 4.0在专项学科能力、安全与责任、以及综合得分均排名第一。它作为目前行业领先、以及中文领域最强模型，已经成为了企业在复杂场景应用的最佳选择。