Google AI服務(wù)悄悄禁止訓(xùn)練Deepfake視頻

媒體發(fā)現(xiàn)Google一項(xiàng)提供訓(xùn)練AI模型的服務(wù)Colab，禁止用戶(hù)用它來(lái)制作Deepfake視頻。

Colab全名為Colaboratory，可供學(xué)生、資料學(xué)家或是AI研究人員在瀏覽器中編寫(xiě)及執(zhí)行Python程序代碼，具有不必進(jìn)行任何設(shè)置、輕松共享、免費(fèi)使用GPU的優(yōu)點(diǎn)。對(duì)于無(wú)法負(fù)擔(dān)動(dòng)輒數(shù)千美元的學(xué)生和研究人員來(lái)說(shuō)，這是一項(xiàng)相當(dāng)好用的服務(wù)。

媒體報(bào)道，知名的Deepfake視頻制作網(wǎng)站DeepFaceLab用戶(hù)本周發(fā)現(xiàn)，在Colab上執(zhí)行DeepFaceLab的程序時(shí)會(huì)觸發(fā)警告，表示用戶(hù)已執(zhí)行不被允許的程序代碼，這行為可能限縮用戶(hù)未來(lái)使用Colab的權(quán)限。不過(guò)同類(lèi)型較小的網(wǎng)站用戶(hù)則尚未接獲類(lèi)似警告。

Deepfake是利用AI技術(shù)改造特定個(gè)人頭像、說(shuō)話(huà)動(dòng)作或聲音，以便冒充他人，主要目的是誹謗、傳播不實(shí)消息或詐騙。例如3月間烏克蘭媒體網(wǎng)站及電視臺(tái)遭黑，以傳播deepfake視頻，冒充烏克蘭總統(tǒng)要求烏國(guó)軍隊(duì)棄械投降。本月網(wǎng)絡(luò)上也流傳冒用馬斯克（Elon Musk）等科技界名人身份的Deepfake視頻，以推銷(xiāo)一個(gè)加密貨幣交易的詐騙平臺(tái)。

不過(guò)不確定Google是為了道德理由、或防范濫用資源考量才禁止deepfake視頻制作。Google Collab另外禁止的行為包括：使用遠(yuǎn)程桌面或連接遠(yuǎn)程代理服務(wù)器、采礦、執(zhí)行DDoS攻擊、破解密碼、或下載Torrent視頻或點(diǎn)對(duì)點(diǎn)（P2P）文件分享等。