李彦宏:大语言模型本身并不直接创造价值
时间:2024-04-16 11:07:13 小新新
DoNews4月16日消息,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上,分享了百度过去一年实践出来的、开发AI原生应用的具
DoNews4月16日消息,百度创始人、董事长兼首席执行官李彦宏在Create 2024百度AI开发者大会上,分享了百度过去一年实践出来的、开发AI原生应用的具体思路和工具。他强调:
"大语言模型本身并不直接创造价值,基于大模型开发出来的AI应用才能满足真实的市场需求。今天我想跟大家分享的是一些基于大模型开发AI原生应用的具体思路和工具。这是我们百度根据过去一年的实践,踩了无数的坑,交了高昂的学费换来的。"
"第一是MoE。未来大型的AI原生应用基本都是MoE的,这里所说的MoE不是一般的学术概念,而是大小模型的混用,不依赖一个模型来解决所有问题。
第二是小模型。小模型推理成本低,响应速度快,在一些特定场景中,经过精调后的小模型,它的使用效果可以媲美大模型。这就是我们发布ERNIE Speed,ERNIE Lite、ERNIE Tiny三个轻量模型的原因。我们通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型,效果更好,速度更快,成本更低。
第三是智能体。智能体是当前非常热的一个话题,随着智能体能力的提升,会不断催生出大量的AI原生应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和自我进化。在一些复杂系统中,我们还可以让不同的智能体互动,相互协作,更高质量地完成任务。这些智能体能力,我们已经开发出来了,并且向开发者全面开放。"