V领丨中国科学院院士张钹:智能体必须符合三个条件
-
0次浏览
发布时间:2025-04-02 10:48:00
央广网北京4月2日消息(记者 齐智颖)3月31日,在“2025中关村论坛年会”期间,中国科学院院士张钹在智谱OpenDay活动上发表演讲时提及,当前人工智能正在进入“智能体化”时代,应该把语言模型扩展到智能体。同时,张钹认为构成智能体必须符合三个条件——很强的思考能力、很强的执行能力、很强的感知能力。
张钹认为,大模型的出现有两个重要的意义。一方面,大模型使得人工智能的范式发生了根本性变化;同时,人工智能日新月异的发展必然会改变各行各业的面貌。
谈及大模型之所以会产生巨大影响的原因,张钹表示,大模型使机器像人类一样思考,这一突破主要因为GPT(生成式预训练变换器),通过巨大的人工神经网络和庞大的数据量学习,催生出了一个大语言模型,这个大语言模型最大的成功就是拥有强大的语言生成能力。
张钹强调,机器一旦理解和掌握了人类语言,必然会开辟一个充满一切可能性的道路。
过去大模型的发展主要依靠规模定律,即依靠巨大的人工神经网络和巨大的数量数据。张钹认为,未来要超越规模定律首先要进一步提升大模型的性能,同时降低成本。
关于提升大模型性能的举措,张钹指出,其一是利用机器自身的能力——思考能力或者推理能力;其二是AI反馈的强化学习 (Reinforcement Learning from AI Feedback,简称 RLAIF) ,依靠AI对齐(AI Alignment),特别是人类反馈强化学习(Reinforcement Learning from Human Feedback,简称RLHF)。
张钹强调,当前人工智能正在进入“智能体化”时代,应该把语言模型扩展到智能体。同时,张钹提出构成智能体必须符合三个条件——很强的思考能力、很强的执行能力、很强的感知能力。
尽管大模型带来了巨大变革,但当前人工智能仍面临诸多挑战,张钹总结了三大难题,他认为这同时也是AI从业者的机会。
首先是多层次空间问题,没有层次的空间很难进行复杂推理,目前在图像领域这一问题已经使用扩散模型得到解决,一旦把扩散模型扩充到语言上去,那语言上的推理就会非常容易解决。
其次是过程与结果问题,推理都是以结果作为目标,这存在非常大的隐患,有时候结果是对的,但是过程不一定对,因为优化的时候只优化结果,并没有优化过程,这主要靠Reinforcement、AI Alignment解决。
此外,最重要的是可解释性问题,这个问题的解决更多依靠校企合作,因为必须要解决理论上的问题。
张钹建议,AI企业应不断反思,不断推动自己改进、进化,使自身更符合现代企业精神。
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索,24小时报料热线400-800-0088;消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明:本文章版权归属央广网所有,未经授权不得转载。转载请联系:cnrbanquan@cnr.cn,不尊重原创的行为我们将追究责任。