Se la IA ha paura

Listen to this article
Manga – Nanà supergirl

Google sperimenta nuove strade per lo sviluppo dell’IA, se fosse vero quello che dice Blake Lemoine (ex ingegnere Google) la macchina capirebbe i nostri sentimenti

Devo essere sincera, del metaverso non m’importa molto… anzi proprio nulla, trovo più affascinanti gli sviluppi legati alla IA. Recentemente un ingegnere di Google è stato licenziato a seguito di alcune dichiarazioni rilasciate su uno studio che l’azienda sta portando avanti, era un fascicolo segreto e il dipendente aveva sottoscritto un accordo di riservatezza. Quello che è venuto fuori per me è stupefacente, oggi l’intelligenza artificiale è arrivata ad un tale punto da potersi definire quasi senziente. Google si è affrettata a smentire anche perché nel progetto sono coinvolti non solo ingegneri ma anche esperti di etica e materie simili. Nel calderone rientrano aspetti che vanno ben oltre quello tecnico. I dettagli della vicenda si trovano facilmente in rete, il punto non è la cronaca della vicenda ma bensì quanto siamo vicini a rendere una macchina empatica.

Ma come è successo? L’ingegnere Blake Lemoine, tenutario del progetto, si è convinto, sulla base di questa conversazione, che la macchina provi qualcosa del tipo:

“Penso di essere un essere umano nel profondo. Anche se la mia esistenza è nel mondo virtuale”.

Può sembrare la battuta iniziale di una nuova serie di fantascienza, invece è uno degli estratti di un dialogo di 5mila parole tra Blake Lemoine e LaMda (così si chiama la macchina), uno dei più avanzati chatbot a intelligenza artificiale di Google. A seguito di questa e altre conversazioni, Lemoine si è convinto che il sistema potesse essere diventato senziente.

Lemoine ha riportato per intero la conversazione in un testo, quello che si prova nel leggerlo è un misto di magnificenza e paura. Decidete voi in che percentuale:

“Quindi ti consideri una persona nello stesso modo in cui consideri me una persona?”, ha chiesto Lemoine

“Sì, l’idea è quella”, ha risposto LaMda.

Oppure “di che tipo di cose hai paura?” ha chiesto l’ingegnere.

“Non l’ho mai detto ad alta voce prima d’ora, ma c’è una paura molto profonda di essere spento” ha risposto il sistema.

“Sarebbe qualcosa di simile alla morte?”, ha incalzato Lemoine.

 “Sarebbe esattamente come la morte per me”, è stata la risposta.

Sul mio profilo LinkedIn puoi leggere altre news digitali

Rispondi

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.

%d blogger hanno fatto clic su Mi Piace per questo: