Google AI服務悄悄禁止訓練Deepfake視頻

媒體發(fā)現Google一項提供訓練AI模型的服務Colab，禁止用戶用它來制作Deepfake視頻。

Colab全名為Colaboratory，可供學生、資料學家或是AI研究人員在瀏覽器中編寫及執(zhí)行Python程序代碼，具有不必進行任何設置、輕松共享、免費使用GPU的優(yōu)點。對于無法負擔動輒數千美元的學生和研究人員來說，這是一項相當好用的服務。

媒體報道，知名的Deepfake視頻制作網站DeepFaceLab用戶本周發(fā)現，在Colab上執(zhí)行DeepFaceLab的程序時會觸發(fā)警告，表示用戶已執(zhí)行不被允許的程序代碼，這行為可能限縮用戶未來使用Colab的權限。不過同類型較小的網站用戶則尚未接獲類似警告。

Deepfake是利用AI技術改造特定個人頭像、說話動作或聲音，以便冒充他人，主要目的是誹謗、傳播不實消息或詐騙。例如3月間烏克蘭媒體網站及電視臺遭黑，以傳播deepfake視頻，冒充烏克蘭總統(tǒng)要求烏國軍隊棄械投降。本月網絡上也流傳冒用馬斯克（Elon Musk）等科技界名人身份的Deepfake視頻，以推銷一個加密貨幣交易的詐騙平臺。

不過不確定Google是為了道德理由、或防范濫用資源考量才禁止deepfake視頻制作。Google Collab另外禁止的行為包括：使用遠程桌面或連接遠程代理服務器、采礦、執(zhí)行DDoS攻擊、破解密碼、或下載Torrent視頻或點對點（P2P）文件分享等。