近日，美國佛羅里達州一名25歲男子因向ChatGPT透露了強奸和殺害前女友的計劃，被OpenAI公司舉報至美國聯邦調查局（FBI）。8月13日，該男子認罪并被判處5年緩刑。
根據OpenAI的政策，當檢測到用戶可能計劃傷害他人時，會由人工團隊審核相關對話；情況嚴重時，公司可能會向執法部門提供線索。涉事男子名叫達倫·周，曾是高盛的一名分析師，已被解雇。他居住在特朗普位于佛羅里達州棕櫚灘的住所附近。
今年3月，達倫開始向ChatGPT談論自己剛剛結束的一段戀情，表示希望與前女友復合，并詳細描述了她的興趣愛好和經常出入的地點，以及他對她身邊其他男性的嫉妒。很快，對話內容升級為涉及強奸、謀殺及自殺威脅。他曾對ChatGPI表示：“我會在這個月底之前殺了她。如果我得不到她，那誰也別想得到她。”這些聊天記錄隨后被收入法院文件。
5月23日，案件進入警方調查程序。FBI將從ChatGPT獲得的相關信息通報給當地執法部門。警方獲得的記錄只包含達倫發送的信息，不包括ChatGPT的回復。警員認為這些內容不是模糊的情緒宣泄，而是反復預演和策劃的跡象。
警方隨后對達倫的前女友進行了安全狀況核查。這名21歲的女子來自佛羅里達州，她告訴警方，分手是因為對方行為“反復無常、嫉妒心強且控制欲強”。由于擔心達倫得知分手后的反應，她選擇通過電話結束這段關系。分手后，達倫仍不斷通過電話、短信和社交媒體消息糾纏她，追問她在社交媒體上與其他男子的互動，并指責她很快開始了新的感情，無視她多次要求不要再聯系自己的請求。
根據逮捕宣誓書，達倫因涉嫌通過書面或電子方式發出殺人或傷害他人的威脅、以明確人身威脅實施嚴重跟蹤騷擾，以及使用雙向通信設備協助實施重罪等罪名被起訴。8月13日，達倫當庭認罪，并被判處5年緩刑。
