人类怎样与AI智能体共处
编者按
新质策源导刊的第二期， ，，，，，我们聚焦AI智能体（AI Agent）， ，，，，，不但仅由于它当下的热度， ，，，，，更由于我们看到了它对未来的影响。。。。。。我们深度访谈行业顶级专家、资深研究职员、海内外着名企业， ，，，，，起劲描绘当下AI时代的真实图景， ，，，，，展望未来的种种可能性， ，，，，，在不确定性中寻找确定性。。。。。。
这个领域立异一直， ，，，，，犹如科幻即将照入现实。。。。。。我们想知道的不但是近在咫尺的明天会怎样， ，，，，，更想知道今天我们做的一切， ，，，，，会对不远的未来爆发什么样的影响， ，，，，，诚邀您和我们一起， ，，，，，探索新AI时代。。。。。。敬请关注本期策划——“人类怎样与AI智能体共处”。。。。。。
——访中国信息通讯研究院人工智能研究所副总工程师孙鑫
■中国经济时报记者张一鸣
陪同着AI智能体（AI Agent）的快速生长， ，，，，，人工智能时代正在加速到来， ，，，，，智能体正成为重塑人机关系、驱动工业升级的焦点变量。。。。。。中国经济时报记者日前独家专访了中国信息通讯研究院人工智能研究所副总工程师孙鑫， ，，，，，她以为， ，，，，，AI智能体的生长有力推动了人工智能从“提供知识”向“交付效果”的逐步跃迁， ，，，，，治理的重心一定水平上需要越发关注“交互行为”危害的防控， ，，，，，其焦点挑战在于， ，，，，，怎样在认可智能体“一定水平自主性”的条件下， ，，，，，守住价值对齐和清静可控的红线、底线。。。。。。
图片泉源/新华社
AI智能体使AI具备执行闭环， ，，，，，完成了从“提供知识”向“交付效果”的跃迁
中国经济时报：目今公众对“AI智能体（AI Agent）”的认知保存差别， ，，，，，与古板天生式AI相比， ，，，，，其在自主决议与交互模式上有哪些实质区别？？ ？？？？？
孙鑫：AI智能体正在一连快速生长， ，，，，，从手艺到功效再到模式都日新月异。。。。。。从某种维度来说， ，，，，，目今的AI智能体可以以为是一种以大语言模子为焦点认知引擎， ，，，，，具备自主拆解目的、感知情形状态、挪用外部工具并在动态反响中实现自我迭代的数字化主体。。。。。。AI智能体的生长从某种水平上来说代表了人工智能从“概率拟合”向“逻辑实操”的能力跨越， ，，，，，即从Next-Token Prediction（展望下一个词）到Next-Action Planning（妄想下一个行动）。。。。。。
智能体的执行力来自其两个要害能力：自动交互能力和动态妄想能力。。。。。。在交互方面， ，，，，，古板天生式AI更多是“问答模式”， ，，，，，交互是单次、线性的指令触发；； ；；；；智能体处于“使命模式”， ，，，，，交互是长程的、终局驱动的（Outcome-based）。。。。。。人类更多是提供“终局状态的目的形貌”， ，，，，，智能体通过挪用外部工具改变情形状态， ，，，，，并在情形回传的反响中举行实时推理和纠偏。。。。。。在妄想方面， ，，，，，古板AI缺乏时序上的影象一连性。。。。。。智能体通过引入了“影象”与“妄想”模浚� ？？？？？�， ，，，，，使其具备了将长程使命拆解为可执行的原子办法， ，，，，，并使用恒久影象举行跨时序的状态感知和履历挪用， ，，，，，使得AI具备执行闭环的能力， ，，，，，完成从“提供知识”向“交付效果”的跃迁。。。。。。
治理重心应从“信息内容”危害防控转向“交互行为”危害的防控
中国经济时报：AI智能体手艺立异速率很是浚� ？？？？？�， ，，，，，对现有制度规则的挑战很大。。。。。。在手艺狂飙与清静可控的张力下， ，，，，，您以为应怎样构建兼具立异容纳性与危害防控能力的治理框架？？ ？？？？？
孙鑫：AI智能体危害是重大多元的， ，，，，，其清静危害凌驾了大语言模子的领域， ，，，，，既包括模子底座传导的危害， ，，，，，也包括情形交互危害以及行为自主性带来的“署理失控”涟漪效应。。。。。。治理的重心一定水平上从“信息内容”危害转向“交互行为”危害的防控。。。。。。治理的焦点挑战在于：怎样在认可智能体“一定水平自主性”的条件下， ，，，，，守住价值对齐和清静可控的红线、底线。。。。。。
探索智能体清静治理系统需要兼顾前瞻性、动态性与协同性， ，，，，，可以思量从以下几个方面增强相关研究和实践。。。。。。一是分级分层与场景约束， ，，，，，针对高危害领域思量“白盒化”治理计划， ，，，，，确保要害节点“人类在回路中”（Human-in-the-loop）， ，，，，，而在危害可控的领域实验容纳审慎的“沙盒羁系”。。。。。。二是完善“行为归因”识别机制， ，，，，，构建智能体要害环节的危害识别和响应标准， ，，，，，探索针对智能体“署理行为”权责溯源机制， ，，，，，制订行为透明度、可诠释性、数据清静等方面的手艺指引， ，，，，，推动执律例范与手艺标准协同落地。。。。。。三是增强智能体动态防护能力， ，，，，，强化底层合规， ，，，，，推动运行时清静护栏（Safety Guardrails）等手艺在工业实践中的同步应用， ，，，，，研发具备展望能力与适配机制的清静工具， ，，，，，提防潜在的系统性危害与误用场景， ，，，，，包管智能体在重大情形下的可信运行。。。。。。治理目的不应是“防盗门”， ，，，，，而应是智能体大规模商用的“清静气囊”， ，，，，，通过建设确定性的规则系统， ，，，，，为工业的恒久昌盛锚定清静预期。。。。。。
总 监 制丨王列军车海刚
监 制丨陈 波 王 彧 杨玉洋
主 编丨毛晶慧 编 辑丨蒋 帅
