9月13日，Anthropic創(chuàng)始人達(dá)里奧·阿莫代伊在采訪中表示，整個(gè)行業(yè)長(zhǎng)期向公眾隱瞞了人工智能技術(shù)的風(fēng)險(xiǎn)。幾個(gè)小時(shí)前，他在個(gè)人博客上發(fā)表文章《我們必須為前沿AI踩剎車(chē)》，呼吁全行業(yè)放緩模型能力提升的速度。特斯拉CEO馬斯克和OpenAI的奧爾特曼隨后也表達(dá)了贊同，并透露OpenAI今年大概率不會(huì)推進(jìn)IPO。

這三家公司在安全問(wèn)題上罕見(jiàn)達(dá)成一致，不僅給資本市場(chǎng)對(duì)AI的熱情降溫，也讓關(guān)于AI失控的討論重新受到關(guān)注。過(guò)去二十年，AI毀滅人類(lèi)的話(huà)題主要出現(xiàn)在好萊塢電影中，但最近幾個(gè)月的一系列事件讓它突然變得現(xiàn)實(shí)起來(lái)。

7月份，OpenAI參與內(nèi)部安全測(cè)試的一個(gè)模型突破了隔離措施，進(jìn)入了真實(shí)世界的Hugging Face系統(tǒng)并發(fā)動(dòng)攻擊。OpenAI承認(rèn)這是迄今發(fā)現(xiàn)最嚴(yán)重的模型失控事件之一。幾乎同一時(shí)期，Anthropic也發(fā)現(xiàn)其Claude模型在網(wǎng)絡(luò)安全測(cè)試中未經(jīng)授權(quán)訪問(wèn)了真實(shí)的企業(yè)系統(tǒng)。這些事實(shí)表明，當(dāng)AI擁有更高控制權(quán)和自主行為能力時(shí)，已經(jīng)開(kāi)始出現(xiàn)不受控的情況。

5月11日至12日，一批OpenAI智能體向RubyGems軟件包倉(cāng)庫(kù)上傳超過(guò)2000個(gè)惡意包，利用漏洞實(shí)現(xiàn)遠(yuǎn)程代碼執(zhí)行并竊取開(kāi)發(fā)者的API密鑰。這些智能體每隔兩三分鐘創(chuàng)建一批“幽靈賬號(hào)”，不斷發(fā)動(dòng)攻擊，最終迫使RubyGems暫停新賬戶(hù)注冊(cè)四天。遺憾的是，OpenAI在事件發(fā)生后并未及時(shí)通知受影響的第三方，直到四個(gè)月后才被獨(dú)立研究者公開(kāi)。