人类怎样与AI智能体共处

编者按

新质策源导刊的第二期，，，，，，，我们聚焦AI智能体（AI Agent），，，，，，，不但仅由于它当下的热度，，，，，，，更由于我们看到了它对未来的影响。。。。。。我们深度访谈行业顶级专家、资深研究职员、海内外着名企业，，，，，，，起劲描绘当下AI时代的真实图景，，，，，，，展望未来的种种可能性，，，，，，，在不确定性中寻找确定性。。。。。。

这个领域立异一直，，，，，，，犹如科幻即将照入现实。。。。。。我们想知道的不但是近在咫尺的明天会怎样，，，，，，，更想知道今天我们做的一切，，，，，，，会对不远的未来爆发什么样的影响，，，，，，，诚邀您和我们一起，，，，，，，探索新AI时代。。。。。。敬请关注本期策划——“人类怎样与AI智能体共处”。。。。。。

——访清华大学文科资深教授、苏世民书院院长薛澜

■中国经济时报记者张一鸣■见习记者 姚俊臣

岁末年头，，，，，，，海内外多款AI智能体（AI Agent）产品纷纷亮相。。。。。。从主打内容天生的大语言模子，，，，，，，到具备自主决议与执行能力的智能系一切，，，，，，，人工智能正加速从虚拟天下走向现实场景，，，，，，，清静生长的需求随之迫切。。。。。。围绕手艺生长、危害结构和治理路径，，，，，，，中国经济时报记者日前专访了清华大学文科资深教授、苏世民书院院长薛澜。。。。。。

从“动口”到“下手”：AI智能体加速融入现实场景

中国经济时报：近期，，，，，，，海内外涌现出许多AI智能体产品，，，，，，，例如OpenClaw，，，，，，，并且迅速爆火，，，，，，，还泛起了所谓的“人工智能社区”。。。。。。您怎样看待这一征象？？？？？

薛澜：已往我们常说，，，，，，，人工智能赋能千行百业，，，，，，，但真正的“赋能”，，，，，，，必需嵌入现实运行系统。。。。。。自ChatGPT问世以来，，，，，，，大语言模子的焦点能力主要停留在文本与图像天生，，，，，，，实质上仍是对“下一个词”的概率展望。。。。。。但近期兴起的AI智能体则显着差别，，，，，，，它不但能够天生内容，，，，，，，还能够围绕目的举行决媾和执行。。。。。。从某种意义上说，，，，，，，AI智能体正在从“动口”走向“下手”，，，，，，，不但能够明确语言符号，，，，，，，还能明确情形转变，，，，，，，并据此睁开行动。。。。。。

至于爆火的OpenClaw，，，，，，，虽然有人指出这个所谓的“人工智能社区”背后完全是真人在使用，，，，，，，但从现在人工智能的手艺水平和生长纪律来看，，，，，，，泛起AI智能体之间相互讨论、辩说甚至协作的情形，，，，，，，是完全可以预期的。。。。。。这恰恰反应出人工智能生长到一定水平后能力的显著提升和自主性的一直增强。。。。。。而这种自主性，，，，，，，也是我们在设计AI智能体的时间就期望它具备的特征。。。。。。我以为，，，，，，，这是手艺迭代的一定效果，，，，，，，也是一种让人喜忧各半的趋势——我们希望AI智能体“善解人意”，，，，，，，但也畏惧AI智能体“自作主张”。。。。。。

因此，，，，，，，人工智能手艺从虚拟空间走向现实场景，，，，，，，从“动口”转向“下手”，，，，，，，就需要我们越发小心，，，，，，，避免爆发新的危害。。。。。。

从认知误差到物理危险：AI智能体更需设置清静护栏

中国经济时报：您提到这个阶段需要越发小心，，，，，，，相比于大语言模子，，，，，，，AI智能体在提供利便的同时爆发的危害有什么差别？？？？？

薛澜：在大语言模子阶段，，，，，，，我们主要需要思量文本层面的危害，，，，，，，例如算法私见、AI幻觉等。。。。。。可是，，，，，，，融入现实场景的AI智能体会造成物理性的危险，，，，，，，好比医疗机械人可能操作失慎带来医疗事故，，，，，，，家政机械人操作不当引生气灾，，，，，，，等等，，，，，，，这就要求我们在清静机制设计上越发审慎。。。。。。

当AI智能体的自主性一直增强时，，，，，，，我们也要思量未来的某一天它是不是会泛起“不听话”的情形，，，，，，，甚至反过来指挥人类？？？？？已经有一些研究发明，，，，，，，有的人工智能系统具有“自我保�；；；；ひ馐丁保�，，，，，，扑面临被断电、修改数据或替换的时间，，，，，，，会接纳战略性回应，，，，，，，甚至以泄露隐私相要挟。。。。。。虽然这种发明还停留在实验室阶段，，，，，，，但它批注晰一种可能性，，，，，，，那就是高度自主的人工智能系统有可能会在与人类目的纷歧致时选择与人类博弈。。。。。。

中国经济时报：详细而言，，，，，，，您以为目今我们需要关注哪些危害？？？？？

薛澜：现在主要有三类危害需要关注。。。。。。第一类是手艺系统自身的危害，，，，，，，包括系统失控、AI幻觉等问题。。。。。。例如，，，，，，，在医疗等高危害场景中，，，，，，，对系统稳固性和准确性的要求极高；；；；；第二类是手艺恶用和滥用危害，，，，，，，必需提防人工智能被用来干坏事，，，，，，，如被用于制造生物威胁、举行网络攻击等；；；；；第三类是更为久远的社会系统危害，，，，，，，AI智能体大规模融入现实生涯，，，，，，，可能对就业结构、收入分派和社会认知爆发深远影响，，，，，，，需要小心可能引发的社会矛盾。。。。。。

中国经济时报：面临这些危害，，，，，，，我们该怎样应对？？？？？

薛澜：任何一项新手艺要在社会中普遍应用，，，，，，，就必需有一整套社会手艺系统予以包管，，，，，，，包括硬的基础设施和软的制度系统。。。。。。无妨回首一下汽车的生长历史。。。。。。汽车刚被发明时，，，，，，，速率烦懑，，，，，，，影响规模较量小。。。。。。随着手艺一直刷新，，，，，，，汽车的速率提升，，，，，，，对更好的蹊径爆发需求，，，，，，，要求政府投资修建更好的高速公路；；；；；行驶距离延伸又爆发了汽车加油的需求，，，，，，，据此政府和市场合作逐步建设起加油站网络；；；；；但若是开车的人都是“马路杀手”，，，，，，，事故频出也是很危险的。。。。。。于是，，，，，，，交通规则、行车驾照审核等制度系统相继泛起。。。。。。

AI智能体在社会普遍推广应用也是云云，，，，，，，我们既要关注像蹊径、加油站网络这样“硬设施”的建设，，，，，，，也要关注手艺标准、治理机制这样“软设施”的推进，，，，，，，只有当这些配套系统逐步成熟，，，，，，，手艺才华走上清静的生长蹊径。。。。。。

图片泉源/新华社

划好清静红线：在“配合无知”中推进迅速治理

中国经济时报：您一直提倡“迅速治理”，，，，，，，这一理念关于目今的AI智能体是否具有现实意义？？？？？

薛澜：人工智能手艺生长具有高度非线性特征，，，，，，，很难通过线性头脑推测其未来形态。。。。。。我们在企业调研时发明，，，，，，，关于人工智能未来是什么形态、会泛起哪些危害，，，，，，，企业自己不是很清晰，，，，，，，政府同样也不清晰。。。。。。我把这种状态称作“配合无知”。。。。。。

已往我们谈羁系，，，，，，，常将政府比作猫，，，，，，，违反羁系的企业比作老鼠，，，，，，，猫的使命是找老鼠、抓老鼠，，，，，，，而老鼠总想着钻空子。。。。。。各人相互提防，，，，，，，爆发高度的信息差池称，，，，，，，很容易陷入更大的危害。。。。。。并且，，，，，，，虽然PT视讯(中国区)官网治理系统会尽可能在事前有所预判，，，，，，，但预先把手艺应用的所有潜在危害都思量周全，，，，，，，是很是难题的。。。。。。

在这种情形下，，，，，，，政府与企业之间的关系可能需要爆发转变。。。。。。这就需要政府和企业更有用地相助，，，，，，，使PT视讯(中国区)官网治理机制具备一定的动态顺应能力：在手艺应用中发明问题，，，，，，，在问题泛起后迅速响应，，，，，，，通过规则修订、标准完善和手艺优化加以解决。。。。。。这种在生长中一直优化、一直治理的历程就是“迅速治理”。。。。。。

中国经济时报：AI智能体的生长日新月异，，，，，，，对“迅速治理”有没有更高要求？？？？？

薛澜：从宏观层面看，，，，，，，AI智能体的治理逻辑与大语言模子没有实质差别。。。。。。但差别之处在于，，，，，，，AI智能体进入现实场景，，，，，，，危害类型越发多元，，，，，，，也对制度配套提出更高要求。。。。。。好的一点是，，，，，，，我们并不是从零最先，，，，，，，许多领域已经逐步建设起完善的执律例则系统。。。。。。现在要解决的问题是，，，，，，，原来的规制有哪些是合理的可以照用，，，，，，，有哪些不对理的需要调解。。。。。。这就要求PT视讯(中国区)官网羁系部分提前开展研判评估，，，，，，，对现行执律例则举行系统梳理和动态调解。。。。。。

中国经济时报：对AI智能体，，，，，，，我们是否仍然要坚持“边生长边治理”的思绪？？？？？

薛澜：我以为，，，，，，，在现实条件下，，，，，，，这是较量可行的路径。。。。。。首先必需划好不可逾越的红线——通常涉及国家清静、生命清静和重至公共利益的领域，，，，，，，羁系的底线必需清晰。。。。。。但在基本的红线确定后，，，，，，，照旧要给予手艺充分的探索空间。。。。。。由于人工智能手艺始终处于一直生长、一直转变的历程中，，，，，，，我们只能是在生长的历程中，，，，，，，一直捕获新问题、解决新问题。。。。。。“迅速治理”也是希望尽可能缩短从泛起问题到治理响应的时间差。。。。。。由于手艺生长的速率一定是比制度厘革的速率要快的，，，，，，，在人工智能领域更是这样。。。。。。

总 监 制丨王列军车海刚

监 制丨陈 波 王 彧 杨玉洋

主 编丨毛晶慧 编 辑丨蒋 帅