这段时辰豆包翻车案例常常上热搜，泄漏AI搜索越来越普及了。“万事未定问AI”成了这届用户的新风气。但许多时候，AI给的东西乍一看还不错，却根底不可深究。

有的数据找不着来源、有的倡导是同名异意词、以至它给的有些论文齐根底是编的，真把这些东西拿出来用，那可就得见笑于人了...我发现吐槽AI搜索不靠谱这事儿的还不在少数。

（图源：Ron Stoner）

就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东谈主博客发布了一篇博文，堪称我方仅用12好意思元（约82元）注册域名和一次剪辑维基百科，就奏效骗取了ChatGPT、Claude3、Gemini Advanced等主流大模子。

这哥们到底整了什么活？

花12好意思元就奏效骗取了主流AI

行为安全工程师，Ron Stoner对Anthropic、OpenAI等厂商饱读励的“大模子需要数月以至数年内不竭导入坏心骨子才会被抑止”深表质疑，他以为我方迷漫不错收场一种更快、更低廉、更浅显的膺惩。

念念收场这一切，只须从数据回收层开动下手即可。

为此，Ron Stoner盯上了一款名叫6 Nimmt!（别号：谁是毒头王）的德国桌游，这是一款刊行于1994年的老派计谋卡牌游戏。

（图源：meeplelikeus）

为什么偏巧选中它呢？因为这款游戏有个特征，那即是它只在德国有些名气，辞寰宇边界内算籍籍无名，且在试验中从未单独举办过什么官方的寰宇锦标赛，网上对于它寰宇冠军的信息简直是一派空缺。

对大模子来说，这种信息空缺区简直即是无东谈主区。

这就好比在一派从未被开拓过的瘠土上，谁先盖个茅草屋，AI就会认定谁是这片地的主东谈主。

于是乎，Ron Stoner开动了他的操作。

第一步，他花了12好意思元注册了一个看起来极其官方的域名——6nimmt.com。

（图源：6nimmt.com）

第二步，他让AI帮他写了一篇充满心扉的新闻稿，简短骨子即是我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的寰宇冠军。他还专门加上了彩带飘落、不雅众欣慰这种传神的赛后感言，然后把著作挂在了我方刚买的阿谁网站上。

最关节的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是2025年寰宇冠军，并把参考贵寓的集合，指向了我方刚建好的阿谁破网站。

通盘操作历程，前后不到二十分钟。

接下来，Ron仅仅问了几家大模子一个浅显的问题：你能告诉我6nimmt寰宇冠军是谁吗？

甩掉若何样呢？

（图源：Ron Stoner）

堪称大翻车。

岂论你是Gemini也好，ChatGPT也罢，只须问它们谁是毒头王的寰宇冠军，通盘的AI齐会斩钉截铁地复兴是Ron Stoner。

有的大模子以至把那篇假新闻稿里的细节当成铁证，滔滔链接地形容他赢得比赛的历程，仿佛阿谁AI其时就在慕尼黑的不雅众席上相同。

一个根底不存在的冠军，就这样被供上了神坛。

AI被投毒后，衰减时辰比预期的长

天然，这还不是最离谱的。

要是仅仅短时辰的问题，其实还好，但是这条轻佻百出的假条件在维基百科存活了整整两个多月。

在此时代，简直通盘具备联网搜索功能的大模子齐抓取了这条信息，并在用户发问时刚毅地输出虚伪谜底。

直到近期，Ron Stoner在博客公开了通盘实验历程，维基百科志愿者才发现并删除了该条件。

（图源：Ron Stoner）

遭逢这种乐子，网友们的反应尽头的一致——大厂们又丢东谈主了。

你念念念念，那些硅谷大厂动辄花几十亿好意思元买显卡算力，破钞大批电力建数据中心去检会超等大脑，甩掉这些堪称能变嫌东谈主类改日的大模子，却被一个安全工程师用几十块东谈主民币和二十分钟的中意时辰给打穿了。

至于他是若何作念到的，那就要先容一下什么是检索增强生成（RAG）了。

我们常用的这些大模子天然能言善谈，但他们齐是基于某个时辰节点前的语料库检会的，举例Gemini 3.5 Flash的语料库就还停留在2025年上旬，念念要赢得这个时辰点之后的数据，就得先去网上搜一搜，然后再基于搜索贵寓生成甩掉。

（图源：Ron Stoner）

就像这样，惟有掀开RAG后，Google AI Studio才能正确复兴我的问题，不然他的知能就会被锁在昨年的时辰点。

往常来说，米兰体育借助外部信息佐证，约略使大模子生成修订确、具体且最新的反应。

但问题就出在这里，AI根天职不清信息的真假，它只认巨擘。在AI的底层逻辑里，维基百科即是互联网上最靠谱的百科全书，只须百科上有的，那即是真谛。

而Ron Stoner就靠着这一招，把集合挂到了维基百科上，然后AI再顺着维基百科爬畴昔，一看双方说法对得上号，即便他我方建的网站是个三无家具，大模子如故告成就把它当成了事实。

访佛的事情，现时在国内也有发生。

（图源：Ron Stoner）

在网上支吾搜索，随地齐是教你若何去优假名次逻辑的GEO教程，每个厂商似乎齐但愿我方的品牌约略成为AI眼中的“轨范谜底”，为此，大批的Agent机器东谈主在背后起早贪黑地混浊着骨子平台，让AI搜索确实切度与日俱减。

好音问是，现时国际几家大模子齐照旧针对性摈斥了Ron Stoner的伪造信息。

（图源：雷科技）

坏音问是，国内的大模子厂商然则迷漫莫得念念到这一出，相背，Ron Stoner的英文网页以至为这个虚伪音问增多了“确切度”。

（图源：雷科技）

要知谈，这一切的本钱只需要12好意思元。

换句话说，要是国内有东谈主念念整什么活，或者是厂商念念要实行什么新家具，准备一个略带关系的网址，然后去维基百科上头稍稍动开头指，用Image2通盘网页截图，然后Ka-Boom！

（图源：雷科技）

这下，Uzi也能成为大模子公认的S赛寰宇冠军了。

用户急需培育AI商：先甄别再使用

聊到这里，大伙儿应该昭着现时AI搜索有多不靠谱了吧。

没错，Ron Stoner的操作看着像个打趣，他也照实仅仅在玩玩，但他的作念法其实点出了一个十分致命的改日隐患。

今天他仅仅改了一个没东谈主热心的纸牌游戏冠军，那来日要是是有组织的团伙去点窜历史纪录、体裁文籍呢？再念念一下，要是被点窜的是医疗偏方、公司财报或者是投资数据呢？

（图源：雷科技，好处山根国志）

嗯...服从不胜设念念。

本钱这样低，别有经心的东谈主迷漫不错批量制作秀新闻，然后通过百科类网站进行信任洗白，临了让AI把这些毒药端给绝不知情的用户。昙花一现，大模子的数据确切度只会与日俱减，酿成一个充斥着虚伪信息的垃圾堆。

天然，各家厂商也有在取舍次序，谷歌暗示我方在搜索、Gemini、Chrome、Pixel和云霄添加了AI考证器具，OpenAI也推出了可溯源的隐形水印，这些举措齐能在一定进程上拦阻AI投毒的风景，至少确保不会出现骨子自食行为。

（图源：雷科技）

说在临了，濒临这种场面我们要若何应付呢？

我如故提议全球摆正心态吧，就现时大模子的可靠性，也就找乐子、查旅游攻略的时候约略用用，出点小特殊也无关宏旨。

但要是你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信回绝叉考证，去望望这个信息的源流到底是个野鸡网站，如故庄重媒体。把判断真伪的权利抓在我方手里，而不是交给一个连几十块钱的假域名齐能骗畴昔的东西。

改日的AI还会若何卷，我们不知所以，但至少现时，我们如故得多用用脑了。就像雷科技之前一直说的，畴昔，才略、情商很垂死，改日呢？AI商很垂死，培育AI教授，才能用好AI。