Alla conferenza annuale re:Mars di quest'anno, Amazon ha rivelato forse la tecnologia più spaventosa di cui abbia mai sentito parlare: un'abilità di Alexa che può imitare le voci di altre persone.
A prima vista, non sembra così male, vero? Il nerd in me sta già pensando a come potrei sentirmi Tony Stark o Luke Skywalker con il mio altoparlante personale Alexa di Paul Bettany o Anthony Daniels (rispettivamente le voci di JARVIS dal MCU e C3-P0 da Star Wars).
Ma invece di seguire la strada delle celebrità, Rohit Prasad, vicepresidente senior di Alexa di Amazon, ha lanciato l'idea insieme a una clip di un ragazzo interpretato da Alexa che usa la voce del nonno recentemente scomparso. Secondo Engadget (si apre in una nuova scheda), un portavoce di Amazon ha spiegato che questa clip potrebbe essere ricreata utilizzando "appena un minuto di audio" della persona che Alexa sta impersonando.
La scena doveva probabilmente ispirare sentimenti commoventi quando vedi la tecnologia Amazon aiutare un bambino ad affrontare il proprio dolore, ma avrebbe potuto essere una scena di Black Mirror. In effetti, l'episodio Be Right Back ha una premessa molto simile a questa.
Be Right Back segue Ash di Domhnall Gleeson, che viene uccisa in un incidente d'auto e, dopo aver scoperto di essere incinta, Martha di Hayley Atwell deve testare una nuova tecnologia che le permette di comunicare con un'intelligenza artificiale fingendosi Ash. È terrificante e certamente non vuole essere un'anteprima di qualcosa di buono.
Nella sua spiegazione dello strumento Alexa, Rohit Prasad ha affermato che, sebbene non eliminerà il dolore della perdita, "può sicuramente far persistere i ricordi" e potrebbe aiutare ad alleviare qualsiasi crepacuore.
È un sentimento in cui mi identifico certamente; Il dolore è un'emozione difficile da affrontare, soprattutto in un'età giovane come il ragazzo nel video condiviso da Amazon. Ma sfumare i confini tra la vita e la morte non sembra il modo più salutare per affrontare la perdita.
Sulla base del commento di Prasad, è chiaro che Amazon vede questa come un'evoluzione del ricordare i propri cari utilizzando vecchie foto e video registrati prima della loro morte, ma non è la stessa cosa. Una foto o un video è stato scattato con il loro consenso e rappresenta qualcosa che la persona ha effettivamente fatto prima di morire; questa funzione basata sull'intelligenza artificiale non riproduce la registrazione di un libro letto, usa la tua voce per creare una memoria fabbricata.
Se qualcuno vuole che la sua voce sopravviva attraverso Alexa dopo la sua morte e poi gli dia da mangiare, sono sicuro che adorerà questa funzione. Personalmente, vorrei poter riposare in pace.
Più di un semplice non morto digitale
Oltre agli usi da incubo di cui sopra, questa funzione di copia potrebbe anche aprire la strada a nuove truffe. Mentre molti di noi sanno come ignorare e riagganciare le voci robotiche all'altro capo della linea, potremmo essere più inclini ad ascoltare le richieste di denaro di nostra nonna o di nostro figlio.
Insieme a sofisticati strumenti di deepfake video, alla fine potremmo trovare impossibile credere a qualsiasi video che vediamo; tutto avrebbe potuto essere costruito con suoni falsi e immagini realistiche.
Amazon non sarà l'unica azienda a sviluppare strumenti vocali di intelligenza artificiale come questo spirito. Sospettiamo che Apple, Google e tutti gli altri produttori di assistenti vocali stiano cercando di renderli più realistici e personali. Ma queste eleganti caratteristiche di imitazione sono davvero un vaso di Pandora, qualcosa da aprire con cura.
A tal fine, sembra che Amazon sia consapevole della necessità di cautela. Non ha impostato una sequenza temporale per quando la funzione verrà implementata sui dispositivi Alexa esistenti e non ha nemmeno confermato se sarà disponibile al pubblico.
Ma ora che la sua immortalità audio è stata rivelata al mondo, è probabilmente solo questione di tempo prima che Alexa acquisisca la capacità di parlare come un morto.