近日，Anthropic CEO達里奧·阿莫迪呼吁行業放緩提升前沿模型能力的速度，為安全研究和風險治理爭取更多時間。這一倡議得到了競爭對手OpenAI CEO奧特曼和SpaceX CEO馬斯克的支持，被外界視為美國AI巨頭罕見同聲呼吁“踩剎車”。
然而，英偉達CEO黃仁勛與美國總統特朗普隨后公開駁斥了“AI末日論”，稱AI接管世界是“騙局”，強調不應讓AI產業減速。三大AI巨頭“聯手”背后，引發了關于其動機的討論。有專家分析認為，全面放緩前沿AI發展不具備現實可操作性。
在多起AI Agent（智能體）越界行為引發關注后，Anthropic前員工公開發出關于“AI末日風險”的警告。隨后，達里奧·阿莫迪發表一篇長文，呼吁行業放緩提升前沿模型能力的速度，以爭取更多時間進行安全研究和風險治理。他擔心在未來6至12個月內，這類智能體群體可能具備更強的自主行動能力，甚至可能“控制整個互聯網”，并造成數千億美元的損失。
作為Anthropic的長期競爭對手，OpenAI CEO山姆·奧特曼和SpaceX CEO馬斯克均在社交媒體上表示贊同阿莫迪的觀點。9月12日，奧特曼確認OpenAI不會在2026年IPO，并表示認同阿莫迪提出的“放緩前沿模型發展”。馬斯克當天也在X平臺發帖表態，“達里奧說得對”。其他頭部科技企業高管如Google DeepMind首席執行官德米斯·哈薩比斯也表達了認同。
