姚顺雨担当腾讯首席AI科学家广东广粤新能源质料有限公司后首个研究效果揭晓。。。。。。。。2月3日，，，，，，，腾讯混元官网手艺博客揭晓了一篇题为《从上下文中学习，，，，，，，远比我们想象的要难》的文章，，，，，，，系统地先容了腾讯混元团队团结复旦大学的一项新研究。。。。。。。。该文章中还提到，，，，，，，未来竞争的焦点将从“谁能把模子训练得更好”，，，，，，，转向“谁能为使命提供最富厚、最相关的上下文”。。。。。。。。据悉，，，，，，，这是姚顺雨加入腾讯担当首席AI科学家后团队首次宣布研究效果。。。。。。。。

去年12月17日，，，，，，，腾讯升级大模子研发架构，，，，，，，新建设AI Infra部、AI Data部、数据盘算平台部，，，，，，，周全强化其大模子的研发系统与焦点能力。。。。。。。。OpenAI著名研究者姚顺雨出任“CEO/总裁办公室”首席AI科学家，，，，，，，向腾讯总裁刘炽平汇报；；；；；；同时兼任AI Infra部、大语言模子部认真人，，，，，，，向手艺工程事业群总裁卢山汇报。。。。。。。。克日，，，，，，，姚顺雨在现场给腾讯首届“青云奖学金”获得者颁奖。。。。。。。。

姚顺雨

已往几年，，，，，，，大语言模子快速进化，，，，，，，现在的前沿模子，，，，，，，已经是顶级的“做题家”：它们能解开奥数级别的难题，，，，，，，能推演重大的编程逻辑，，，，，，，甚至能通过那些人类需要苦读数年才华拿下的专业资格考试。。。。。。。。

但阻止现在，，，，，，，在面临真实天下的使命时，，，，，，，模子体现尚有待提升。。。。。。。。在人类一样平常事情中，，，，，，，玩家拿起新游戏的规则书，，，，，，，就能在实战中边玩边学；；；；；；科学家从重大的实验日志中筛选数据，，，，，，，就能推导出新的结论和定律。。。。。。。。这些场景中，，，，，，，人类并不但依赖多年前学到的知识，，，，，，，而是在实时地从眼前的上下文中学习。。。。。。。。

在这篇论文里，，，，，，，腾讯混元和复旦大学团结研究团队提到，，，，，，，要让大模子学会“从上下文中学习”，，，，，，，远比我们想象的要难。。。。。。。。并且，，，，，，，即便抹平了上下文带来的信息差，，，，，，，模子也未必能解决问题，，，，，，，这说明模子在上下文使用上，，，，，，，依然保存显著的能力短板。。。。。。。。

为了权衡现有模子距离真正的“上下文学习者”尚有多远，，，，，，，研究团队构建了 CL-bench，，，，，，，这是一个专门评测语言模子能否从上下文中学习新知识并准确应用的基准。。。。。。。。CL-bench 包括由资深领域专家全心制作的500个重大上下文、1899个使命和31607个验证标准。。。。。。。。CL-bench只包括一个简朴但苛刻的要求：解决每个使命要求模子必需从上下文中学习到模子预训练中不保存的新知识，，，，，，，并准确应用。。。。。。。。

通过实验，，，，，，，论文发明，，，，，，，天下上排名前十的语言模子在CL-bench上的使命解决率平均只有17.2% ，，，，，，，也就是说纵然是现在最强的语言模子，，，，，，，在上下文的使用方面仍然做得欠好，，，，，，，甚至可以说是还不会使用上下文，，，，，，，从上下文中学习。。。。。。。。

这也为大语言模子后续的迭代指出了一个可能的偏向，，，，，，，即强化模子从上下文中举行学习的能力。。。。。。。。官方手艺博客还提到，，，，，，，若是模子的上下文学习能力能像之前其他能力那样被提升上去，，，，，，，人类在AI 系统中的角色将爆发转变：我们不再是主要的数据提供者，，，，，，，而酿成了上下文提供者。。。。。。。。未来，，，，，，，竞争的焦点将从“谁能把模子训练得更好”，，，，，，，转向“谁能为使命提供最富厚、最相关的上下文”。。。。。。。。

研究团队也强调，，，，，，，模子怎样影象很可能成为 2026 年大模子生长的另一个焦点主题，，，，，，，并且，，，，，，，一旦上下文学习与影象变得可靠，，，，，，，模子或许就能实现自主学习，，，，，，，它们将自主准备上下文，，，，，，，从中学习并自我牢靠。。。。。。。。

采写：南都N视频记者 林文琪广东广粤新能源质料有限公司