前大廠(chǎng)員工開(kāi)發(fā)色情AI被判刑 技術(shù)濫用的代價(jià)。鄭某曾是國(guó)內(nèi)一家知名游戲公司的前員工，在A(yíng)I領(lǐng)域有一定知名度。他在海外深造過(guò)，技術(shù)功底扎實(shí)。然而，他卻因制作淫穢物品牟利被判刑三年十個(gè)月。

看到“游戲大廠(chǎng)前員工”這個(gè)標(biāo)簽，人們不禁感到驚訝。這不是普通的小毛賊，而是真正的技術(shù)骨干。2024年7月，鄭某接觸到一款境外的AI色聊機(jī)器人，從中看到了商機(jī)。他拉上同事謝某和網(wǎng)上認(rèn)識(shí)的嚴(yán)某，組成了一個(gè)六人研發(fā)團(tuán)隊(duì)。他們對(duì)基礎(chǔ)模型進(jìn)行了“越獄”，改寫(xiě)系統(tǒng)提示詞，設(shè)定角色卡，搭建對(duì)話(huà)場(chǎng)景，一步步撕開(kāi)了大模型的安全限制。

2025年1月，這款模型在境外平臺(tái)上線(xiàn)。通過(guò)接入“第四方支付”和虛擬幣，用戶(hù)可以充值并選擇角色卡與AI進(jìn)行色情聊天，甚至可以用積分生成淫穢圖片。這套玩法形成了一條完整的灰色產(chǎn)業(yè)鏈，從技術(shù)開(kāi)發(fā)到付費(fèi)變現(xiàn)，閉環(huán)運(yùn)行得非常順暢。

運(yùn)營(yíng)期間，該模型生成了37萬(wàn)多張靜態(tài)圖片和6000多張動(dòng)態(tài)圖片，用戶(hù)充值總額達(dá)到24000美元，折合人民幣約17萬(wàn)元。經(jīng)鑒定，9000多張靜態(tài)圖和5000多張動(dòng)態(tài)圖被認(rèn)定為淫穢物品。雖然每張圖的收益不到五毛錢(qián)，但數(shù)量龐大，使得整個(gè)生意變得“薄利多銷(xiāo)”。

AI一鍵生成，批量產(chǎn)出，這種模式相比傳統(tǒng)方式效率極高。庭審時(shí)，被告人辯稱(chēng)用戶(hù)自己選擇角色、輸入指令，試圖推卸責(zé)任。然而，法官明確指出，用戶(hù)的所有操作都被限定在被告人提前搭好的技術(shù)框架內(nèi)，鄭某團(tuán)隊(duì)對(duì)AI模型的內(nèi)容輸出擁有實(shí)質(zhì)性控制權(quán)，因此他們的行為與淫穢內(nèi)容的產(chǎn)生之間存在直接因果關(guān)系。