All'inizio di questo mese, Google ha deciso di aggiungere la formazione deepfake al suo elenco di progetti vietati sul suo servizio Colaboratory. Il cambiamento è stato visto per la prima volta dallo sviluppatore DFL su Discord come "chervonij". Quando ha provato ad addestrare i suoi modelli deepfake sulla piattaforma, ha ricevuto un messaggio di errore che diceva
"Potresti eseguire codice non autorizzato, che potrebbe limitare la tua capacità di utilizzare Colab in futuro. Tieni presente le azioni proibite specificate nelle nostre FAQ.
Google sembra aver apportato la modifica sotto il radar e da allora è rimasto in silenzio sulla questione. Mentre l'etica è la prima teoria potenziale che viene in mente, la vera ragione potrebbe essere un po' più pragmatica.
Abuso della risorsa gratuita
I deepfake sono video "photoshoppati": video falsi che mostrano persone che dicono cose che non hanno mai detto veramente. I suoi creatori sfruttano le tecnologie di intelligenza artificiale (AI) e machine learning (ML) per creare video super coinvolgenti, sempre più difficili da distinguere dai contenuti legittimi.
Tuttavia, per essere convincenti, i deepfake richiedono una potenza di calcolo significativa, proprio come quella offerta dal servizio Colab. Questo progetto Google consente agli utenti di eseguire Python nel proprio browser mentre utilizzano risorse di elaborazione gratuite.
Poiché i deepfake vengono spesso utilizzati per fare scherzi, creare notizie false o diffondere fake revenge porn, è facile pensare che alla base della decisione di Google ci sia stata l'etica. Tuttavia, potrebbe anche essere che troppe persone stessero usando Colab per creare divertenti video finti, impedendo ad altri ricercatori di fare un lavoro più "serio". Dopotutto, la risorsa informatica è gratuita.
A parte i deepfake, Google non consente l'utilizzo di Colab per progetti come il mining di criptovalute, l'esecuzione di attacchi denial-of-service, il cracking di password, l'utilizzo di più account per aggirare le restrizioni di accesso o di utilizzo delle risorse, l'uso di desktop remoto o SSH o la connessione. a server proxy remoti.
Via: BleepingComputer (si apre in una nuova scheda)