美期中選舉前 AI引用數十個偽造競選網站

美國國家廣播公司新聞網4日報導，獨立研究團隊發布的最新報告顯示，在3日美國期中選舉 前夕，包括ChatGPT 、Gemini在內的主要人工智慧（AI ）聊天機器人，都受到偽造的競選網站影響。

該報告出自專門追蹤與分析生成式 AI的獨立研究計畫「核心小組AI」（Caucus AI），該計畫兩名主持人曾參與民主黨前總統候選人賀錦麗2024年競選團隊，專長為數據科學。

報告紀錄其架設的一系列非官方、以競選為主題的網站，部分網站介紹的選區甚至不存在，卻被AI系統納入回答選舉相關問題的內容中。

這次期中選舉被外界視為首次由AI系統驅動的選戰。數百萬美國人向聊天機器人尋求投票建議，候選人使用AI製作廣告，競選團隊也利用AI進行民調與發送簡訊。專家說，第三方有能力操縱聊天機器人的回答，讓人對未來由AI居中傳遞資訊的選舉流程產生關鍵性質疑。

研究人員為12個州的26名真實參議院候選人架設52個網站，內容採用候選人實際立場與理念，以免聊天機器人的回答充斥錯誤資訊。結果發現，網站上線才19小時，AI就開始將這些網站納入回答。

曾任賀錦麗與華茲競選團隊的副首席分析長、現為「核心小組AI」研究員的威爾提說，「這些都是相當簡單的網站，令人意外的發現是，我們根本不需要使用大量誘餌來誘導大型語言模型，就能輕易讓這些網站被引用」。

他說，所有網站從10月10日上線到10月29日，包括以北卡州參議員候選人古柏與華特利為名的網站，網站都附上免責聲明，註明候選人與網站無關，而是由「核心小組AI」出資架設。

他還說，「每個網站花了我們48小時與12美元。轉眼間ChatGPT關於這些候選人的回答中，就有相當比率引用我們的網站」。

為研究日益先進的AI系統會如何處理與傳遞大量湧入的選舉資訊，「核心小組AI」自2026年年初起開始研究聊天機器人如何回答投票與期中選舉相關問題。