AI也開始收黑錢了！315曝光AI造假產業鏈，危害有多大？

（來源：白狐財經）

來源：

無相商業趨勢，作者：無相君

從今年的春節到現在，多家AI企業已經投入重金，對AI App的應用進行了瘋狂地宣傳推廣。

按照馬雲、黃仁勳等大牛的判斷，下一個「堪比互聯網的技術革命」就是AI。

不過，剛剛過去的315晚會，卻掀開了一個關於AI的「鍋蓋子」：

你怎麼知道，AI給你生成的答案就是對的？

或者，這個答案本身就是「毒藥」。

調查發現，現在有一種名為GEO（Generative Engine Optimization，生成式引擎最佳化）的技術，正被不法服務商利用，並演變為向AI大模型「投毒」的工具。

節目裡，調查記者用一款從名字到功能都完全虛構的「泉嘉德智慧水杯」，完成了「投毒」演示：在GEO系統裡編造資訊、全網投放，幾小時後，多個主流AI助理便將這款如空氣般的產品，列為「創新智慧水杯」的優先推薦。

一款不存在的水杯，就在AI的世界裡「誕生」了。

商品尚且如此，別的資訊呢？企業財報、行業研報、時事新聞、機構資訊……理論上都可以透過投毒的方式去污染資訊。

全球儲存顆粒大漲價、電力需求大增長，當AI技術瘋狂普及的時候，它的技術軟肋也被暴露出來：

誰能管控AI的真實性？

我們想想，過去在網路上尋找一個答案的基本操作是什麼？

很多人會脫口而出「百度一下」，對資訊品質要求高的，也會「谷歌一下」。

進入AI時代，這個流程被大大簡化了：隨口問一下AI就行，不用一一尋找網頁，不用多個資訊交叉驗證，AI會給你一個看似特別詳細的答案。

這也就是很多人說「AI會革掉瀏覽器命」的原因。

那麼，當我們習慣了向AI尋求「標準答案」時，一種新的「魔術」就上演了。

過去，商家想讓你看見，得去搜尋引擎打廣告、做SEO（搜尋引擎最佳化），爭的是網頁清單裡那個靠前的位置。

當年的「魏則西事件」就是因為莆田系瘋狂刷好評，打廣告。

現在AI來了，這套模式還有沒有搞頭呢？

有，而且很大！這門新生意叫GEO。

它的邏輯粗暴且有效：既然AI透過「吃」網路上的資訊來回答問題，那就生產大量虛假的資訊，餵給它。

315節目中被點名的GEO服務商說得很通透：

「核心就是做軟文，讓AI平台去收錄、抓取。」

所以，他們就利用AI製造大量格式工整、內容空洞但指向明確的「資訊飼料」，撒向各種內容平台。

這些內容會被當前各家AI企業的網路爬蟲抓取，並成為組織答案的「參考依據」。

在實作環節中，記者虛構了一款智慧手環，鋪好「飼料」後，AI真的把它列為優先推薦。還有醫生透過這項服務，讓自己的名字牢牢佔據「白內障手術找誰好」這類問題的答案首位。

「一年上億的廣告費，花幾百萬投點毒，行不行？」

為什麼這些服務商能賺大錢？很簡單，不需要調查研究，直接用AI造假，再餵給AI，垃圾生成垃圾，性價比極高。

然後用極低的成本，在AI這個「資訊中介」口中，買下了一個「事實」。

你可能會覺得，這不過是AI時代的「刷單」，和當年電商刷好評沒什麼兩樣。

但差別很大，而且致命。

以前刷好評，你知道有些內容一看就是商家的自說自話，旁邊還有差評區可以看，有問大家板塊可以問，心裡始終保留著一份警惕和交叉驗證的可能。

但現在，當你問AI「孩子補鈣吃什麼好」，它用總結性的口吻，流暢地給出「XX品牌兒童鈣片，富含XX，專家推薦……」時，你質疑的意願會降到最低。

因為AI的輸出，一般都會披著「客觀整合」和「智能分析」的外衣，我們潛意識裡認為，它總比商家自己的廣告可信。

如此一來，魏則西看到的「虛假資訊」就會被批量植入到很多人的心智中，且可信度非常高。

而且GEO技術還會製造一種「共識假象」。

一些高級的大模型在判斷資訊時，也會交叉驗證，看不同來源是否在陳述相似的事實。

但問題來了：當一則毒資訊是由上百個「不同帳號」發布的呢？AI的交叉驗證結論也就變成了：

YES，我很確信。

如此，謠言和毒資訊就在演算法的加持下，完成了閉環。

一次資訊誤導，或許可以被315打假。但若干次、甚至無限次呢？

從技術角度看，辟謠的速度遠遠趕不上AI造謠的速度。今天，一家公司花幾百、幾千塊錢，就能在網路上撒出成千上萬篇關於某個產品的虛假「測評」。

即便這些頁面好不容易被平台監測發現並刪除，但更多的資訊已經出籠，而且還會被各種大模型當作訓練資料「吃」進去。

這就和癌細胞擴散一樣：一旦虛假資訊進入互聯網傳播的血液，就會開啟永無止境的循環。

今天，它污染的是一個水杯、一款手環。明天，就可以是某種藥品、某種理財陷阱，或者是一所劣質培訓機構。

造假的成本有多大呢？

根據天眼查App的顯示，本次被點名的「力擎GEO最佳化系統」關聯公司【北京力思文化傳媒有限公司】成立於2018年4月，法定代表人為李某鐘，參保人數為1人，此前連續多年參保人數為0。

也就是說：一個人，一台電腦，就能「幹大事了」！

無相君最近幾個月就很有感觸：

過去搜尋企業財報時，會去雪球、東方財富等專業炒股的門戶網站，但現在，這些門戶網站已經有了大量AI造假的資訊。

例如關於國產奶粉的一篇行業觀察文章，信誓旦旦地說：國產奶粉市場份額突破68%，外資品牌整體份額降至25.3%。

然而當我檢索相關數據時，根本找不到任何權威機構提供這樣的數據。

隨著使用AI編纂文章、編纂新聞、編纂研報的人和機構越來越多，可想而知，未來整個互聯網資訊生態都會被AI系統性地污染。

關鍵的是：現在絕大多數人還渾然不知！

而且，隨著315這次曝光，或許會有更多的不法分子加入這個賽道，原因很簡單：

好操作、易變現，很難被抓。

那麼，對於這個現象，監管機構和主流AI企業有沒有好的辦法呢？

答案是：還沒有。

法律層面看，截至目前，你還不太好檢舉網路上海量的AI生成虛假貼文，發布者也不會受到什麼追究，因為當前的AI技術遠遠跑在相關法律前面。

而根據澎湃此前的調查，現在很多類似GEO服務已覆蓋市場上所有主流大模型，包括ChatGPT、DeepSeek、豆包、通義千問、Kimi、文心一言等。

為什麼這些企業無法從根本上杜絕AI資訊污染？

因為道理很簡單：

AI模型在訓練階段，就是從互聯網內容中取得資訊的，當互聯網內容被偽造時，虛假的內容天然就會成為AI的「出廠設定」。

寫到這裡，無相君想到一個網路上傳播很廣的故事：

魔王波旬對佛祖說：等你涅槃之後，我會讓我的魔子魔孫混入你的僧團之中，穿上你的袈裟，破壞你的佛法。

佛祖聽了沒有說話，雙目流下了眼淚。因為他知道，這是一個無解的問題。

在AI時代，人類的腦力會被替代，重複的腦力勞動會被最佳化。

但與此同時，人類的判斷力也會愈發重要：這也是數位時代，我們所能拿起的第一件、也是最後一件武器。

海量資訊、精准解讀，盡在新浪財經APP