一系列嚴重的安全事件加劇了人們對最先進模型強大能力與不可破解性的擔憂。試想人類乘著一葉扁舟，在洶涌的河流中順流而下，祈求前方不要出現尼亞加拉大瀑布般的險境。或者想象自己與那些開拓性的物理學家并肩而立，站在194年的芝加哥體育場地下，目睹他們即將引發人類首次自持核裂變鏈式反應的歷史瞬間。

人工智能治理領域的新興專家羅伯特·特拉格教授本周用兩個類比，描述了世界當前所處的危險與機遇并存的關鍵時刻——人工智能正在加速發展。牛津大學馬丁人工智能治理倡議主任特拉格發表此番言論時，正值OpenAI宣稱其最新模型GPT-6 Astra已突破人工通用智能（AGI）技術門檻的那一周。

這一聲明發布之際，該公司正籌備可能高達8500億美元（約合6300億英鎊）的股票發行，因此難免帶有營銷宣傳成分，但若屬實則意義重大。這家舊金山公司將AGI定義為“在最具經濟價值的工作中超越人類的自主系統”。據稱，Astra能夠自動化的任務包括設計電路板、填寫納稅申報表、開發電子游戲、金融建模、工程設計以及協助整理法律文件。這對部分白領工作崗位的潛在威脅不言而喻。

然而，關于人工通用智能（AGI）的宣稱，恰逢安全專家和政治領袖對人工智能風險日益加劇的擔憂。今年夏天，AI模型日益強大的能力和難以捉摸的特性，以及一系列被某些人視為可能是最后警告信號的嚴重安全事故，令他們神經緊繃。特拉格表示：“我們正穿越激流，真心希望前方不會出現斷崖式跌落，但實際情況難以預料。我們很可能即將跨越所謂‘遞歸式自我改進’的界限——即[人工智能]系統實現自我升級。這種遞歸性本質上就是技術爆炸的定義。”