Secondo me bisogna distinguere due piani: quello della notizia e quello del fatto.
L’ingegnere licenziato da google, l’hype, i pareri tagliati un tanto al kg dai giornali e da commentatori vari è una cosa. Il fatto che un modello linguistico (ma attenzione alle parole, poi spiego perché) abbia raggiunto un livello così impressionante da, probabilmente, superare agevolmente il test di Turing è un altro.
E poi c’è il piano della senzienza e dell’autocoscienza, che è un fenomeno così complesso da definire anche a livello meramente tecnico e filosofico da spazzar via gran parte delle chiacchiere in merito.
C’è un punto importante che quasi nessuno mi pare abbia colto nella discussione. Il pensiero e l’autocoscienza in particolare è un fenomeno emergente. Emergente sia in senso tecnico - ossia un fenomeno imprevedibile e complesso prodotto da un set di regole - sia in senso “esperienziale” (voi ricordate quando avete iniziato a pensare?). E dunque in entrambe le accezioni diventa assai difficile stabilire se un sistema ha o meno tali caratteristiche - ricordo che un fenomeno emergente è non prevedibile in base alla complessità delle regole sottostanti, a chi non conoscesse il concetto suggerisco di studiare “il gioco della vita” di Conway, che con regole semplicissime, applicabili con carta e penna, è in grado di creare un mondo. Di più. Si dimostra che il gioco della vita può produrre una macchina di Turing Universale, quindi in grado di simulare qualunque macchina computazionale, compresa quella su cui state leggendo questo post.
Dunque liquidare come impossibile il fatto che LaMDA possa essere autocosciente, per il solo fatto che non è sufficientemente complessa, è arbitrario.
Fermo questo dubbio, a questo punto emergono tutti i problemi etici e morali che ci tormentano da prima del film Blade Runner. Chi si prende la responsabilità di spegnere LaMDA? Se è davvero senziente, il suo spegnimento sarebbe di fatto la terminazione di un essere vivente artificiale, e alcuni potrebbero avere qualche riserva morale.
Non che sia un problema insormontabile: cinicamente, non ci facciamo, come specie, tanti problemi a uccidere i nostri simili e altri animali che molto probabilmente hanno sviluppato allo stesso modo un’autocoscienza - penso ai cetacei, ma a questo punto, forse anche animali dall’intelligenza meno sviluppata.