近日，一位曾先后在OpenAI和Anthropic工作的頂尖技術天才宣布離職，并在社交媒體上留下了一段令人不安的臨別贈言：“他們正在拿我們的命賭。”這篇帖文不僅得到了馬斯克的轉發，瀏覽量也高達1.2億。他的話引起了許多人的共鳴。

他表示自己從Anthropic公司辭職了，在過去三年里，一直在OpenAI和Anthropic從事預訓練研究。他認為這兩家公司都沒有盡到應有的責任，而是盲目地投入到自我提升的超級智能領域，拿人類的生命冒險。他警告說，不要低估這項技術的力量。這些系統很快就會變得超乎想象，能夠入侵任何系統，一夜之間徹底改變任何領域，并獲得真正的權力和資源。他已經見證了這些領域的進展，而且這種進展并沒有放緩。

這位研究員指出，到了2030年左右，人工智能可能會毀滅人類，這不是營銷噱頭。Anthropic高管們并非不知曉其中的風險，但他們認為，為了防止競爭對手開發出不安全的超級智能，必須搶先一步。這種競爭焦慮導致原本嚴苛的安全審查被不斷降級甚至取消。所謂的“技術對齊”更像是為了安撫公眾情緒而敷衍了事的公關話術。

他還透露，那些在聚光燈下對AI前景侃侃而談的高管和研究員，私下里普遍被一種深度的末日恐慌所籠罩。Anthropic對齊團隊主管埃文·胡賓格隨后在社交平臺上公開回應，承認內部確實存在這種極度悲觀的共識。他個人甚至估計未來十年內AI毀滅人類的概率超過10%。更嚴重的是，胡賓格承認，公司目前根本沒有解決超級智能安全對齊問題的明確計劃。這就像一群工程師正在夜以繼日地建造一列沒有剎車的高鐵，唯一的策略就是祈禱車速足夠快，能在脫軌前沖上云霄。