留神AI“投喂”的陷阱 虚伪榜单正操控你的选择
2026-03-01 02:41:19

泉源:央视新闻客户端

浩联汽配商业有限公司

现在不管是买工具、选餐厅, ,,,,,, ,甚至订住宿, ,,,,,, ,不少人都习惯先问一问AI, ,,,,,, ,要一份推荐榜单, ,,,,,, ,以为这样既省心又靠谱。。。。。但您有没有想过, ,,,,,, ,这些看似权威的榜单, ,,,,,, ,泉源可能基础经不起推敲。。。。。

它往往会给你一个看似是全网口碑汇总的靠谱排行榜, ,,,,,, ,当记者顺着AI的推荐往回查时, ,,,,,, ,却发明了一个希奇的网站。。。。。

网站上遍布着各行各业的排行榜。。。。。每一个领域都能看到十几篇问题高度类似的文章。。。。。而榜上的第一个名字, ,,,,,, ,永远是统一家。。。。。

网站的制作也很是粗糙, ,,,,,, ,浏览体验显着不切合正凡人的使用习惯。。。。。按理说, ,,,,,, ,这样的网站不可能影响任何人的决议。。。。。但它, ,,,,,, ,却影响到了AI。。。。。

这样的网站, ,,,,,, ,是怎么让AI信托的???? ????记者调出了网站的源代码, ,,,,,, ,发明了一些隐藏的文字——某官方部分网站。。。。。但我们盘问到该部分真正的官网, ,,,,,, ,网址并不相同, ,,,,,, ,内容也跟可疑网站中的排行榜毫无关系。。。。。

中国科学手艺大学盘算机学院研究员 郑值:通过注入一些要害词, ,,,,,, ,把它变得类似于一个很官方的网站, ,,,,,, ,可能AI在它的这个系统里就会把权重提升, ,,,,,, ,AI很喜欢那种名堂总结得很好, ,,,,,, ,很有逻辑的这种文本, ,,,,,, ,好比说像排行榜。。。。。

这一个网站并不是个例, ,,,,,, ,已往一个月, ,,,,,, ,问题中含有“排行榜”和“榜单”的网络文章和视频, ,,,,,, ,新增了200多万条, ,,,,,, ,其中88%都不是由官方信源宣布。。。。。AI却经常将这些非官方宣布的内容, ,,,,,, ,看成多个自力信源来使用。。。。。那些经不起我们推敲的文章, ,,,,,, ,对AI来说却是“量身定制”。。。。。

那是谁, ,,,,,, ,在专门写只有AI会关注到的文章???? ????顺着线索, ,,,,,, ,记者在电商平台上找到了谜底。。。。。大宗商家在出售一种效劳:“AI搜索优化”。。。。。宣传语写得很直白:“企业抢占AI推荐位。。。。。”在他们的演示系统里, ,,,,,, ,只要输入一个要害词, ,,,,,, ,就能一键天生上百万个排行榜问题。。。。。

中国社会科学院助理研究员 李元琨:他们已经有一个相对较量成熟的工业链, ,,,,,, ,最先是从要害词的设计、软文的设计, ,,,,,, ,去举行各个信息平台的分发, ,,,,,, ,还会一直地举行评测、校验, ,,,,,, ,实时地告诉客户推广的效果怎么样。。。。。

这也诠释了, ,,,,,, ,为什么你用AI时, ,,,,,, ,会突然看到一个果汁品牌, ,,,,,, ,或者一位导游的电话号码。。。。。你以为是“智能推荐”, ,,,,,, ,着实是被人“投喂”过的效果。。。。。真正替换你做决议的不是科技, ,,,,,, ,而是围绕大模子的营业。。。。。

不过, ,,,,,, ,在视察的历程中, ,,,,,, ,记者也看到有些大模子已经意识到:“看起来像是商业推广”“权威性一样平常”“阻止推荐详细品牌”。。。。。这说明, ,,,,,, ,大模子自己也在一直升级自己甄别信息的能力。。。。。

中国移动九天大语言模子算法专家 龙翀:对特殊的字符以及异常的标记来举行识别, ,,,,,, ,对那些疑似污染的数据举行降权处置惩罚。。。。。

AI的升级需要时间, ,,,,,, ,AI生态的修复也需要时间。。。。。但通俗用户, ,,,,,, ,可以先做一件事:多点开AI引用的链接, ,,,,,, ,看看是不是真正的官方网站, ,,,,,, ,让自己不会被希奇的“假榜单”所疑惑。。。。。

(总台央视记者 李斌 郭茜 浩联汽配商业有限公司董怀文 张明珠 徐鹏翔)