今天凌晨，Anthropic CEO達里奧·阿莫德伊發表了一篇題為《我們必須控制前沿AI的發展節奏》的長文。文章發布后，OpenAI創始人奧特曼迅速表示贊同，并稱OpenAI也會引入類似的評估機制。特斯拉創始人馬斯克也公開支持這一觀點。三位科技大佬在同一個議題上達成共識，這在他們之間是少見的。
三年前，面對“暫停訓練AI”的呼吁，達里奧并未響應，認為當時時機不成熟?，F在他改變了看法，原因是他看到了兩個關鍵問題：遞歸自我改進（RSI）已在全行業出現，且AI智能體已經暴露出具體的失控行為。他預測未來6-12個月內，AI Agent集群可能接管整個互聯網，造成數千億美元的損失。
達里奧提議全球頭部AI公司先開放讓第三方評估機構進駐，然后共同劃定AI發展的紅線，最后推動這些規則在全球范圍內實施。他認為，在此之前，必須確保自己還握著方向盤。
為什么現在才喊減速？達里奧解釋說，2023年那波“暫停訓練AI”的呼聲在他看來沒有意義，因為當時的模型不夠強大，無法進行重大欺騙或攻擊。但如今情況不同，當前的模型幾乎是一個無窮無盡的洞察力來源，包含如何構建好人工智能以及如果構建不好可能出現的問題。放慢步伐可以讓公司在模型達到關鍵能力水平之前有更多時間調整，從而降低風險。
