人类怎样与AI智能体共处

编者按

新质策源导刊的第二期，，，，，，我们聚焦AI智能体（AI Agent），，，，，，不但仅由于它当下的热度，，，，，，更由于我们看到了它对未来的影响。。。。。我们深度访谈行业顶级专家、资深研究职员、海内外着名企业，，，，，，起劲描绘当下AI时代的真实图景，，，，，，展望未来的种种可能性，，，，，，在不确定性中寻找确定性。。。。。

这个领域立异一直，，，，，，犹如科幻即将照入现实。。。。。我们想知道的不但是近在咫尺的明天会怎样，，，，，，更想知道今天我们做的一切，，，，，，会对不远的未来爆发什么样的影响，，，，，，诚邀您和我们一起，，，，，，探索新AI时代。。。。。敬请关注本期策划——“人类怎样与AI智能体共处”。。。。。

——访中国工程院院士邬贺铨

■中国经济时报记者张一鸣 王彩娜

人工智能正从大模子的通用问答阶段，，，，，，迈向智能体场景落地的全新阶段，，，，，，深度融入千行百业，，，，，，一连重塑生爆发涯方法，，，，，，却也随之带来权限管控、隐私保唬唬唬�；；ぁ⒃鹑稳隙ǖ纫幌盗行绿粽�。。。。。人类该怎样与AI智能体共处，，，，，，掌握手艺生长与清静规范的平衡，，，，，，让人工智能真正效劳于社会生长与优美生涯？？？？？？中国经济时报记者日前独家专访了中国工程院院士邬贺铨，，，，，，围绕AI智能体的实质特征、潜在危害及治理之道睁开深度对话。。。。。

从“被动助手”到“自动署理”：AI智能体带来了什么？？？？？？

中国经济时报：AI智能体的泛起让人工智能与人类的关系爆发了怎样的实质转变？？？？？？

邬贺铨：大模子现在已经普遍应用，，，，，，在信息问答、文档创作等方面展现出强盛能力，，，，，，但其实质照旧语言模子，，，，，，局限性十明确显，，，，，，主要靠数学盘算寻找概率最大的谜底，，，，，，缺乏对物理天下的真实感知和明确，，，，，，容易爆发幻觉，，，，，，更主要的是，，，，，，它难以落地到详细的工业场景中完成现实使命。。。。。而AI智能体正是为解决大模子的局限性而降生的，，，，，，它从大模子演进而来，，，，，，却不追求通用性，，，，，，而是聚焦特定使命优化。。。。。

AI智能体有两个大模子不具备的要害能力，，，，，，一是闭环迭代，，，，，，能通过一连实践形成履历影象，，，，，，总结完成使命的可行路径，，，，，，阻止重复出错；；；；；；二是工具链集成，，，，，，可挪用外部数据库、其他模子等资源，，，，，，突破自身能力界线，，，，，，这让它对简单使命的处置惩罚更精准、更可靠，，，，，，也由于轻量化设计降低了算力需求，，，，，，能真正走进千行百业。。。。。

更主要的是，，，，，，AI智能体实现了从“被动助手”向“自动署理”的转变。。。。。工业生产中，，，，，，各环节AI智能体能协同优化供应链、生产、销售全流程。。。。。这种自主性和协同性，，，，，，让AI智能体不再是纯粹的工具，，，，，，而是成为了人类的全新协作同伴。。。。。

中国经济时报：AI智能体成为人类协作同伴的基础是什么？？？？？？它的落地又让我们看到了哪些新的可能性？？？？？？

邬贺铨：AI智能体能成为人类协作同伴，，，，，，焦点基础是它既保存了大模子的智能优势，，，，，，又补足了落地应用的能力短板，，，，，，还能与人类形成能力互补——人类善于高阶决议、情绪判断和立异思索，，，，，，AI智能体则善于重复性事情、多资源协同和精准执行。。。。。并且AI智能体的轻量化特征，，，，，，让它能下沉到手机、可衣着装备等种种终端，，，，，，让AI智能体的协作能力真正贴近人类的生涯和事情场景。。。。。

它的落地让我们看到了诸多新可能：消耗端，，，，，，旅游妄想智能体能自动协调机票、旅馆、蹊径，，，，，，解放人类的啰嗦安排；；；；；；工业端，，，，，，智能体协同能大幅提升生产效率，，，，，，镌汰人工干预；；；；；；都会治理端，，，，，，多智能体联动能让应急处置惩罚、公共效劳更高效。。。。�？？？？？？梢运�，，，，，，AI智能体的泛起，，，，，，让人机协作的场景变得更详细、更普遍。。。。。

图片泉源/新华社

隐私、清静、责任：AI智能体带来的三大挑战

中国经济时报：您以为AI智能体生长现在面临的焦点危害有哪些？？？？？？

邬贺铨：AI智能体现阶段的生长面临多重挑战，，，，，，这些挑战既来自手艺不可熟，，，，，，也来自治理和制度的滞后。。。。。首先是手艺层面的问题，，，，，，一是自主学习可能爆发私见，，，，，，智能体缺乏对学习内容的有用甄别能力，，，，，，容易兼收并蓄不实信息，，，，，，形成过失的判断逻辑；；；；；；二是协作稳固性缺乏，，，，，，多智能体协同历程中，，，，，，容易泛起决议冲突和资源竞争，，，，，，甚至爆发过失的传导效应，，，，，，影响使命执行。。。。。

其次是权限和责任的问题，，，，，，智能体的自主性容易带来越权危害，，，，，，可能逾越人类授权规模自作主张；；；；；；而一旦泛起问题，，，，，，责任认定难度极大，，，，，，问题溯源可能涉及大模子训练、工具链挪用、智能体影象误差，，，，，，甚至人类指令表述不清等多个方面，，，，，，很难界定详细责任主体。。。。。

再者是清静放大效应，，，，，，智能体作为数字天下的新入口，，，，，，统一调理后端的App、数据库、工具链等所有资源，，，，，，这个入口一旦被黑客攻击，，，，，，会牵连后端所有系统，，，，，，造成系统性清静危害；；；；；；同时，，，，，，智能体深度掌握用户的习惯和隐私信息，，，，，，若数据治理不当，，，，，，极易引发隐私泄露问题。。。。。

尚有生态协调的挑战，，，，，，智能体屏障了古板App的界面，，，，，，成为用户和App之间的中心层，，，，，，这就涉及App开发者的利益分派问题：开发者投入大宗资源获取用户，，，，，，智能体的介入让其与用户的直接联系被切断，，，，，，若没有合理的利益分派机制，，，，，，会引爆发态矛盾。。。。。这些危害的泉源，，，，，，实质上是智能体的手艺生长速率凌驾了制度规范、生态协调的速率，，，，，，也凌驾了人类对其的治理能力建设速率。。。。。

中国经济时报：面临这些危害，，，，，，人类该怎样守住清静底线，，，，，，应对思绪是什么？？？？？？

邬贺铨：面临AI智能体生长的诸多挑战，，，，，，我们不可因噎废食，，，，，，焦点思绪是在生长中规范，，，，，，通过制度约束和手艺手段，，，，，，把AI智能体的“权力关进笼子”，，，，，，同时建设渐进式的信托机制。。。。。

第一，，，，，，明确权限约束，，，，，，建设智能体权限治理制度，，，，，，智能体的授权规模必需清晰界定，，，，，，差别的使命付与差别的权限，，，，，，好比简朴的信息盘问可完全授权，，，，，，涉及资金、隐私的操作则要设置严酷的权限门槛。。。。。

第二，，，，，，完善审计追溯机制，，，，，，对智能体的决议历程、工具链挪用、影象更新等所有行为举行全程纪录，，，，，，一旦泛起问题，，，，，，能快速溯源，，，，，，明确责任主体，，，，，，这是实现有用治理的基础。。。。。

第三，，，，，，推行渐进式授权，，，，，，人与智能体的协作需要一个磨合历程，，，，，，就像与人相处一样，，，，，，先从低危害、简朴的使命最先，，，，，，逐步建设信托，，，，，，再凭证现真相形扩大授权规模，，，，，，不可一最先就将所有权力交出去。。。。。

第四，，，，，，推进标准建设，，，，，，制订智能体间的通讯协议、接口标准，，，，，，让多智能体协同有规可循，，，，，，镌汰决议冲突；；；；；；同时规范用户数据挪用的权限界线和赞成机制，，，，，，明确原始数据、加工数据的共享规模，，，，，，保唬唬唬�；；び没�数据隐私。。。。。

另外，，，，，，关于通俗用户而言，，，，，，也可以掌握自主管控的自动权，，，，，，好比让智能体先提供计划而非直接执行，，，，，，由人类做最终决议，，，，，，降低操作危害。。。。。归根结底，，，，，，智能体的可控性，，，，，，离不开人类的全程加入和有用治理，，，，，，我们要始终掌握人机协作的主导权。。。。。

共处之道：平衡生长与规范，，，，，，构建多方协同的新生态

中国经济时报：人类与AI智能体协调共处，，，，，，需要构建一个怎样的工业生态？？？？？？

邬贺铨：人类与AI智能体协调共处，，，，，，需要构建一个多方协同、利益共享、清静可控的工业生态，，，，，，焦点是平衡智能体开发者、App开发者、用户和羁系部分四方的利益，，，，，，缺一不可。。。。。

关于用户，，，，，，要建设严酷的数据保唬唬唬�；；す娣�，，，，，，明确智能体对用户数据的使用规模、加工方法和共享界线，，，，，，所有数据挪用必需以用户授权为条件，，，，，，包管用户的隐私和数据主权；；；；；；关于App开发者，，，，，，要建设合理的利益分派机制，，，，，，智能体作为中心层，，，，，，不可无偿占用开发者的资源和用户资源，，，，，，要通过商业规则、手艺接口等方法，，，，，，闪开发者能从智能体的生态中获得响应收益，，，，，，阻止生态矛盾；；；；；；关于智能体开发者，，，，，，要强化行业自律，，，，，，遵守数据规范和清静要求，，，，，，与上下游工业形成良性互动；；；；；；关于羁系部分，，，，，，要出台针对性的政策规则，，，，，，明确各方的权力和义务，，，，，，同时推进智能体的识别和羁系，，，，，，避免恶意智能体撒播，，，，，，维护生态清静。。。。。

中国经济时报：从久远来看，，，，，，实现人类与AI智能体协调共生的要害是什么？？？？？？

邬贺铨：从久远来看，，，，，，AI智能体会“润物细无声”地融入人类的生涯和事情，，，，，，人机协同会成为未来社会的主流生产和生涯方法。。。。。而人工智能的最终生长偏向，，，，，，是从语言模子向天下模子演进，，，，，，让智能体真正具备对物理天下的真实认知，，，，，，让人机协作更精准、更自然，，，，，，但这个历程需要恒久的手艺积累，，，，，，现在还没有明确的手艺路径和时间表。。。。。

实现人类与AI智能体协调共生的要害，，，，，，始终在于掌握“人为主导、手艺向善、规范生长”的原则。。。。。首先，，，，，，人类要始终掌握人机协作的主导权，，，，，，智能体的生长是为了让人类的生涯更优美，，，，，，而非替换人类，，，，，，所有的手艺研发和制度设计，，，，，，都要围绕这个焦点；；；；；；其次，，，，，，手艺生长要坚守向善的底线，，，，，，让智能体始终效劳于人类的配合利益，，，，，，阻止手艺被滥用；；；；；；最后，，，，，，要坚持生长与规范并重，，，，，，在手艺研发的同时，，，，，，同步推进制度建设、生态协协调能力作育，，，，，，让智能体的生长速率与社会的顺应能力相匹配。。。。。

总 监 制丨王列军车海刚

监 制丨陈 波 王 彧 杨玉洋

主 编丨毛晶慧 编 辑丨蒋 帅