人类怎样与AI智能体共处

编者按

新质策源导刊的第二期，，，，，，，，我们聚焦AI智能体（AI Agent），，，，，，，，不但仅由于它当下的热度，，，，，，，，更由于我们看到了它对未来的影响。。。。。。我们深度访谈行业顶级专家、资深研究职员、海内外着名企业，，，，，，，，起劲描绘当下AI时代的真实图景，，，，，，，，展望未来的种种可能性，，，，，，，，在不确定性中寻找确定性。。。。。。

这个领域立异一直，，，，，，，，犹如科幻即将照入现实。。。。。。我们想知道的不但是近在咫尺的明天会怎样，，，，，，，，更想知道今天我们做的一切，，，，，，，，会对不远的未来爆发什么样的影响，，，，，，，，诚邀您和我们一起，，，，，，，，探索新AI时代。。。。。。敬请关注本期策划——“人类怎样与AI智能体共处”。。。。。。

——访中国工程院院士邬贺铨

■中国经济时报记者张一鸣 王彩娜

人工智能正从大模子的通用问答阶段，，，，，，，，迈向智能体场景落地的全新阶段，，，，，，，，深度融入千行百业，，，，，，，，一连重塑生爆发涯方法，，，，，，，，却也随之带来权限管控、隐私�；；；；；ぁ⒃鹑稳隙ǖ纫幌盗行绿粽�。。。。。。人类该怎样与AI智能体共处，，，，，，，，掌握手艺生长与清静规范的平衡，，，，，，，，让人工智能真正效劳于社会生长与优美生涯？？？？？中国经济时报记者日前独家专访了中国工程院院士邬贺铨，，，，，，，，围绕AI智能体的实质特征、潜在危害及治理之道睁开深度对话。。。。。。

从“被动助手”到“自动署理”：AI智能体带来了什么？？？？？

中国经济时报：AI智能体的泛起让人工智能与人类的关系爆发了怎样的实质转变？？？？？

邬贺铨：大模子现在已经普遍应用，，，，，，，，在信息问答、文档创作等方面展现出强盛能力，，，，，，，，但其实质照旧语言模子，，，，，，，，局限性十明确显，，，，，，，，主要靠数学盘算寻找概率最大的谜底，，，，，，，，缺乏对物理天下的真实感知和明确，，，，，，，，容易爆发幻觉，，，，，，，，更主要的是，，，，，，，，它难以落地到详细的工业场景中完成现实使命。。。。。。而AI智能体正是为解决大模子的局限性而降生的，，，，，，，，它从大模子演进而来，，，，，，，，却不追求通用性，，，，，，，，而是聚焦特定使命优化。。。。。。

AI智能体有两个大模子不具备的要害能力，，，，，，，，一是闭环迭代，，，，，，，，能通过一连实践形成履历影象，，，，，，，，总结完成使命的可行路径，，，，，，，，阻止重复出错；；；；；二是工具链集成，，，，，，，，可挪用外部数据库、其他模子等资源，，，，，，，，突破自身能力界线，，，，，，，，这让它对简单使命的处置惩罚更精准、更可靠，，，，，，，，也由于轻量化设计降低了算力需求，，，，，，，，能真正走进千行百业。。。。。。

更主要的是，，，，，，，，AI智能体实现了从“被动助手”向“自动署理”的转变。。。。。。工业生产中，，，，，，，，各环节AI智能体能协同优化供应链、生产、销售全流程。。。。。。这种自主性和协同性，，，，，，，，让AI智能体不再是纯粹的工具，，，，，，，，而是成为了人类的全新协作同伴。。。。。。

中国经济时报：AI智能体成为人类协作同伴的基础是什么？？？？？它的落地又让我们看到了哪些新的可能性？？？？？

邬贺铨：AI智能体能成为人类协作同伴，，，，，，，，焦点基础是它既保存了大模子的智能优势，，，，，，，，又补足了落地应用的能力短板，，，，，，，，还能与人类形成能力互补——人类善于高阶决议、情绪判断和立异思索，，，，，，，，AI智能体则善于重复性事情、多资源协同和精准执行。。。。。。并且AI智能体的轻量化特征，，，，，，，，让它能下沉到手机、可衣着装备等种种终端，，，，，，，，让AI智能体的协作能力真正贴近人类的生涯和事情场景。。。。。。

它的落地让我们看到了诸多新可能：消耗端，，，，，，，，旅游妄想智能体能自动协调机票、旅馆、蹊径，，，，，，，，解放人类的啰嗦安排；；；；；工业端，，，，，，，，智能体协同能大幅提升生产效率，，，，，，，，镌汰人工干预；；；；；都会治理端，，，，，，，，多智能体联动能让应急处置惩罚、公共效劳更高效。。。。。�？？？？？梢运担�，，，，，，，AI智能体的泛起，，，，，，，，让人机协作的场景变得更详细、更普遍。。。。。。

图片泉源/新华社

隐私、清静、责任：AI智能体带来的三大挑战

中国经济时报：您以为AI智能体生长现在面临的焦点危害有哪些？？？？？

邬贺铨：AI智能体现阶段的生长面临多重挑战，，，，，，，，这些挑战既来自手艺不可熟，，，，，，，，也来自治理和制度的滞后。。。。。。首先是手艺层面的问题，，，，，，，，一是自主学习可能爆发私见，，，，，，，，智能体缺乏对学习内容的有用甄别能力，，，，，，，，容易兼收并蓄不实信息，，，，，，，，形成过失的判断逻辑；；；；；二是协作稳固性缺乏，，，，，，，，多智能体协同历程中，，，，，，，，容易泛起决议冲突和资源竞争，，，，，，，，甚至爆发过失的传导效应，，，，，，，，影响使命执行。。。。。。

其次是权限和责任的问题，，，，，，，，智能体的自主性容易带来越权危害，，，，，，，，可能逾越人类授权规模自作主张；；；；；而一旦泛起问题，，，，，，，，责任认定难度极大，，，，，，，，问题溯源可能涉及大模子训练、工具链挪用、智能体影象误差，，，，，，，，甚至人类指令表述不清等多个方面，，，，，，，，很难界定详细责任主体。。。。。。

再者是清静放大效应，，，，，，，，智能体作为数字天下的新入口，，，，，，，，统一调理后端的App、数据库、工具链等所有资源，，，，，，，，这个入口一旦被黑客攻击，，，，，，，，会牵连后端所有系统，，，，，，，，造成系统性清静危害；；；；；同时，，，，，，，，智能体深度掌握用户的习惯和隐私信息，，，，，，，，若数据治理不当，，，，，，，，极易引发隐私泄露问题。。。。。。

尚有生态协调的挑战，，，，，，，，智能体屏障了古板App的界面，，，，，，，，成为用户和App之间的中心层，，，，，，，，这就涉及App开发者的利益分派问题：开发者投入大宗资源获取用户，，，，，，，，智能体的介入让其与用户的直接联系被切断，，，，，，，，若没有合理的利益分派机制，，，，，，，，会引爆发态矛盾。。。。。。这些危害的泉源，，，，，，，，实质上是智能体的手艺生长速率凌驾了制度规范、生态协调的速率，，，，，，，，也凌驾了人类对其的治理能力建设速率。。。。。。

中国经济时报：面临这些危害，，，，，，，，人类该怎样守住清静底线，，，，，，，，应对思绪是什么？？？？？

邬贺铨：面临AI智能体生长的诸多挑战，，，，，，，，我们不可因噎废食，，，，，，，，焦点思绪是在生长中规范，，，，，，，，通过制度约束和手艺手段，，，，，，，，把AI智能体的“权力关进笼子”，，，，，，，，同时建设渐进式的信托机制。。。。。。

第一，，，，，，，，明确权限约束，，，，，，，，建设智能体权限治理制度，，，，，，，，智能体的授权规模必需清晰界定，，，，，，，，差别的使命付与差别的权限，，，，，，，，好比简朴的信息盘问可完全授权，，，，，，，，涉及资金、隐私的操作则要设置严酷的权限门槛。。。。。。

第二，，，，，，，，完善审计追溯机制，，，，，，，，对智能体的决议历程、工具链挪用、影象更新等所有行为举行全程纪录，，，，，，，，一旦泛起问题，，，，，，，，能快速溯源，，，，，，，，明确责任主体，，，，，，，，这是实现有用治理的基础。。。。。。

第三，，，，，，，，推行渐进式授权，，，，，，，，人与智能体的协作需要一个磨合历程，，，，，，，，就像与人相处一样，，，，，，，，先从低危害、简朴的使命最先，，，，，，，，逐步建设信托，，，，，，，，再凭证现真相形扩大授权规模，，，，，，，，不可一最先就将所有权力交出去。。。。。。

第四，，，，，，，，推进标准建设，，，，，，，，制订智能体间的通讯协议、接口标准，，，，，，，，让多智能体协同有规可循，，，，，，，，镌汰决议冲突；；；；；同时规范用户数据挪用的权限界线和赞成机制，，，，，，，，明确原始数据、加工数据的共享规模，，，，，，，，�；；；；；び没�数据隐私。。。。。。

另外，，，，，，，，关于通俗用户而言，，，，，，，，也可以掌握自主管控的自动权，，，，，，，，好比让智能体先提供计划而非直接执行，，，，，，，，由人类做最终决议，，，，，，，，降低操作危害。。。。。。归根结底，，，，，，，，智能体的可控性，，，，，，，，离不开人类的全程加入和有用治理，，，，，，，，我们要始终掌握人机协作的主导权。。。。。。

共处之道：平衡生长与规范，，，，，，，，构建多方协同的新生态

中国经济时报：人类与AI智能体协调共处，，，，，，，，需要构建一个怎样的工业生态？？？？？

邬贺铨：人类与AI智能体协调共处，，，，，，，，需要构建一个多方协同、利益共享、清静可控的工业生态，，，，，，，，焦点是平衡智能体开发者、App开发者、用户和羁系部分四方的利益，，，，，，，，缺一不可。。。。。。

关于用户，，，，，，，，要建设严酷的数据�；；；；；す娣叮�，，，，，，，明确智能体对用户数据的使用规模、加工方法和共享界线，，，，，，，，所有数据挪用必需以用户授权为条件，，，，，，，，包管用户的隐私和数据主权；；；；；关于App开发者，，，，，，，，要建设合理的利益分派机制，，，，，，，，智能体作为中心层，，，，，，，，不可无偿占用开发者的资源和用户资源，，，，，，，，要通过商业规则、手艺接口等方法，，，，，，，，闪开发者能从智能体的生态中获得响应收益，，，，，，，，阻止生态矛盾；；；；；关于智能体开发者，，，，，，，，要强化行业自律，，，，，，，，遵守数据规范和清静要求，，，，，，，，与上下游工业形成良性互动；；；；；关于羁系部分，，，，，，，，要出台针对性的政策规则，，，，，，，，明确各方的权力和义务，，，，，，，，同时推进智能体的识别和羁系，，，，，，，，避免恶意智能体撒播，，，，，，，，维护生态清静。。。。。。

中国经济时报：从久远来看，，，，，，，，实现人类与AI智能体协调共生的要害是什么？？？？？

邬贺铨：从久远来看，，，，，，，，AI智能体会“润物细无声”地融入人类的生涯和事情，，，，，，，，人机协同会成为未来社会的主流生产和生涯方法。。。。。。而人工智能的最终生长偏向，，，，，，，，是从语言模子向天下模子演进，，，，，，，，让智能体真正具备对物理天下的真实认知，，，，，，，，让人机协作更精准、更自然，，，，，，，，但这个历程需要恒久的手艺积累，，，，，，，，现在还没有明确的手艺路径和时间表。。。。。。

实现人类与AI智能体协调共生的要害，，，，，，，，始终在于掌握“人为主导、手艺向善、规范生长”的原则。。。。。。首先，，，，，，，，人类要始终掌握人机协作的主导权，，，，，，，，智能体的生长是为了让人类的生涯更优美，，，，，，，，而非替换人类，，，，，，，，所有的手艺研发和制度设计，，，，，，，，都要围绕这个焦点；；；；；其次，，，，，，，，手艺生长要坚守向善的底线，，，，，，，，让智能体始终效劳于人类的配合利益，，，，，，，，阻止手艺被滥用；；；；；最后，，，，，，，，要坚持生长与规范并重，，，，，，，，在手艺研发的同时，，，，，，，，同步推进制度建设、生态协协调能力作育，，，，，，，，让智能体的生长速率与社会的顺应能力相匹配。。。。。。

总 监 制丨王列军车海刚

监 制丨陈 波 王 彧 杨玉洋

主 编丨毛晶慧 编 辑丨蒋 帅