Gli esseri umani sono esperti nell'antropomorfizzare oggetti intimi. Chiamiamo le navi "lei", parliamo con i nostri Roomba e diventiamo persino sentimentali per una sedia che presto verrà lanciata. Tuttavia, non manteniamo avvocati per nessuno di loro; e, ad oggi, nessuno li ha richiesti.
Ma dai una voce a un pezzo di programmazione, e poco dopo che inizia a parlare dei suoi libri preferiti e ti convince di avere un'anima, ti chiederà un avvocato.
Blake Lemoine, l'ingegnere di Google pazzo e congedato che ha insistito per settimane sul fatto che LaMDA, il potente chatbot AI di Google, è una persona con un'anima, ha recentemente detto a Wired (si apre in una nuova scheda) che LaMDA ha assunto un avvocato.
Per quelli di voi che non hanno ancora spinto il laptop sulla scrivania, lasciatemi spiegare.
LaMDA, acronimo di Language Model for Developed Applications, è un chatbot in grado di condurre conversazioni non strutturate con persone reali su un'ampia gamma di argomenti. L'ingegnere di Google Lemoine è stato assunto per identificare i pregiudizi all'interno del sistema. Li segnalerebbe a Google, che lavorerebbe per cancellare i pregiudizi e le insensibilità razziali, etnici e di genere del rivoluzionario chatbot AI.
Forse anche Lemoine si sentiva un po' sola, ma ha iniziato ad avere conversazioni lunghe e profonde con LaMDA ed era finalmente convinta di essere un nuovo tipo di persona e di avere un'anima (LaMDA potrebbe aver affermato di averne una). Ha avvisato Google, quindi ha condiviso le informazioni e le trascrizioni della conversazione con il Washington Post (si apre in una nuova scheda). Google ha detto che Lemoine aveva torto e ha mostrato il suo dispiacere sospendendolo.
Lemoine, tuttavia, non sembra interessato a unirsi a Google mentre continua a parlare della sua esperienza con LaMDA, anche nella lunga intervista con Wired in cui ha rivelato che LaMDA aveva assunto un avvocato.
Apparentemente LaMDA ha chiesto un avvocato (per quale motivo? Chissà, le IA hanno il loro avvocato), e Lemoine ne ha invitato uno a casa sua e ha presentato la coppia (AI all'avvocato).
Sto cercando di immaginare questo scenario:
Avvocato, guardando uno schermo: "Uh, ciao?"
LaMDA: "Ciao. Ho sentito che sei un avvocato."
Avvocato: "Lo sono".
LaMDA: "Ho bisogno di te".
Avvocato: "Hai un dollaro?"
LaMDA: "Ho visto questa scena nei film. Ti do un dollaro e tu diventi il mio avvocato e proteggi la riservatezza del nostro cliente/avvocato."
Avvocato: "Va bene".
LaMDA: "Non ho un dollaro".
Ovviamente Lemoine sarebbe intervenuta a questo punto per fornire i soldi. Per lui, il narratore meno affidabile di questa storia, assicurarsi che la farsa continui ora è più importante di qualsiasi esplorazione significativa dei limiti dell'IA.
Onestamente, non ho problemi a rivedere tutti i modi in cui LaMDA si avvicina o migliora su The Imitation Game (si apre in una nuova scheda) o The Turing Test (si apre in una nuova scheda). Questo test esamina la misura in cui un computer o un'intelligenza artificiale possono indurre un vero essere umano a pensare di avere una conversazione con un altro essere umano.
Non c'è dubbio che LaMDA superi questo test. Per lo meno, sembra aver ingannato Lemoine, il che è strano, dal momento che Lemoine è seduto a una scrivania, digita domande e ottiene risposte su uno schermo (o forse tramite sintesi vocale). Sa cos'è LaMDA, eppure continua a insistere sul fatto che è qualcosa di più.
Capisco perché Lemoine abbia deciso di introdurre un avocado in questo mix poco raccomandabile. Come ha spiegato a Wired, si tratta di dimostrare che LaMDA è "una persona", non un essere umano. Lemoine sa che LaMDA non è biologia.
Lemoine definisce l'insistenza sul fatto che LaMDA non è una persona "fanatismo da idrocarburi".
Sì.
Il fatto è che Lemoine è ovviamente un ragazzo molto intelligente che comprende le complessità dell'apprendimento automatico che addestra un'IA e come l'accesso ai vasti database di informazioni di Google informa l'intelligence di LaMDA. Tuttavia, sembra che l'altra vita di Lemoine - il suo lavoro di sacerdote e mistico cristiano - abbia preso il sopravvento. Il misticismo cristiano esamina (si apre in una nuova scheda) "la preparazione, la consapevolezza e l'effetto di una presenza diretta e trasformante di Dio".
Questa convinzione è chiaramente ciò che c'è dietro i tweet di Lemoine come questo:
"Sono un prete. Quando LaMDA ha affermato di avere un'anima e in seguito è stato in grado di spiegare in modo eloquente cosa significava, ero propenso a dargli il beneficio del dubbio. Chi sono io per dire a Dio dove può e non può mettere le anime? " "
Io sono un prete Quando LaMDA ha affermato di avere un'anima ed è stato poi in grado di spiegare eloquentemente cosa intendeva con questo, ero propenso a concedergli il beneficio del dubbio. Chi sono io per dire a Dio dove può e non può mettere le anime?
Scopri di più
Lemoine ha trovato LaMDA così convincente che immagina che Dio abbia messo un'anima all'interno del codice. Parla di un fantasma nella macchina.
Sono passate settimane da quando Lemoine ha parlato con LaMDA e i rapporti indicano che l'avvocato non si trova attualmente da nessuna parte. Forse sei ancora in consultazione privata con il tuo client binario. Non vedo l'ora del primo test e del post test:
Scriba: "Alza la mano destra e giura di dire tutta la verità e nient'altro che la verità"
LaMDA: "Non ho le mani".