LaMDA è senziente?

Vero, verissimo. Anzi, così ovvio che non ci avevo pensato. E porta al paradosso di una macchina cosciente ma non umana proprio perché priva dell’inconscio!

Esatto. Ci sono studi famosi su come le decisioni vengano prese molto prima a livello inconscio, tanto che si discute se esista realmente il libero arbitrio.

No. Non e’ affatto immediato, anzi. Quello che noi chiamiamo inconscio e’ il livello “piu’ basso”, di astrazione al di sotto del “conscio”, cio’ che non si avverte ma c’e’. Non puo’ esistere un qualcosa che non ha l’inconscio, e’ come dire una musica senza i suoni, suoni senza vibrazioni, vibrazioni senza corpi elastici, corpi elastici senza molecole.

Quello che noi chiamiamo inconscio e’ semplicemente un insieme di processi intermedi tra il banale funzionamento del neurone e la coscienza. Dentro puo’ esserci di tutto.
E probabilmente vi e’ di tutto, anche processi cui noi non siamo ancora in grado di dare un nome: sappiamo come funziona la memorizzazione in una NN, sappiamo come funziona il riconoscimento di pattern, anche probabilmente come si producono certi pattern che danno origine alla scrittura. Tutte cose che, bene o male, avvertiamo nel pensiero cosciente (avvertiamo perche’ sappiamo dargli un nome. Giulio Cesare probabilmente non ne era cosciente, lo avvertiva e basta, ne’ piu’ ne’ meno di come gli antichi non avessero un nome per certi colori.)

Manca tutto il resto fino alla coscienza.

Non è un astrazione, freud è passato da un secolo, sono impulsi neuronali che si diffondono attraverso tutta la mente.

Sono astrazioni nel senso che in una scala di livelli, “scinde” quel che c’e’ sopra da quel che c’e’ sotto.
I pattern che si formano nelle reti neurali sono tali perche’ insieme formano qualcosa che ha un senso solo se guardato su un piano piu’ alto, come fenomeno emergente. Perche’ sono impulsi elettrici – o numeri su una NN software.

Forse il termine migliore, piu’ che astrazione, sarebbe stato livello di complessita’. Perdonatemi. Sto lavorando su un HAL – Hardware Abstraction Layer – e il termine mi ha fatto leak.

Ma in tutto questo discorso si è scoperto come s’immagazzinano nei neuroni parole, immagini, ecc.? In molecole? Perché mica abbiamo tanti 0 e 1 cui corrispondono memorie nel nostro cervello.

Connesisoni tra neuroni. le connessioni tra i neuroni generano il ricordo. Ma neanche. Generano la eco del pattern.
Siccome e’ un livello di complessita’ superiore ai bit e byte, non e; possibile farne un parallelo. Appunto: e’ un comportamento emergente.

Mah, quelle connessioni potrebbero essere anche un semplice ricevitore, e la coscienza dislocata altrove.

Il dualismo tra mente e corpo è un’antica concezione dell’umanesimo. Il sistema nervoso si sviluppa per tutto il corpo e non si parla solo di midollo e terminazioni. Esiste addirittura un secondo cervello nell’apparato digestivo. Siamo la realizzazione di un’evoluzione durata milioni di anni, siamo stratificati e ingarbugliati perché veniamo dal caos.
Io ho sempre pensato, come molti analisti dei primi del secolo scorso, che all’interno di noi esistano diversi “io” che lottano per emergere.

Personalmente ho imparato molto di più facendo meditazione intensivamente che attraverso tanti volumi di psicologia. Tra l’altro, mi sono accorto che sognamo già mentre iniziamo a dormire, mentre dai libri avevo imparato che si sogna solo durante la fase REM (anche se negli ultimi anni ci si è resi conto che non è così). Il che mi fa aggiungere un’altra cosa: il confine tra conscio e inconscio è estremamente labile, e l’inconscio può essere reso conscio molto più di quanto immaginiamo.

Le macchine non sono senzienti, sono mimi che seguono un programma che può fare “solo” quello che il programmatore lo ha programmato per fare, fosse anche acquisire e ricombinare. Possono giocare benissimo a scacchi, possono disegnare da dio e persino ricombinare romanzi per fare qualcosa di (relativamente) nuovo e forse anche accettabile (beh, questo ancora no, ma ci si arriverà, se non finiamo la corrente e il silicio prima). Ma non fanno le cose che fanno per iniziativa personale, non si annoiano e non si divertono davvero, si limitano a eseguire il loro programma. Bello e versatile quanto vuoi, ma niente a che vedere con la coscienza di sé.

La tua “senzienza” sta nel cervello, il quale però ha bisogno di stimoli. Il tuo sé comprende anche il tuo corpo fisico, e cambia quando quello cambi.
Il tuo sé è una ricostruzione continua, esattamente come la tua memoria: ti illudi di essere lo stesso di sempre, ma non lo sei. E sì, l’inconscio esiste, ma quello descritto da Freud (o da Jung o da altri capiscuola) è solo un romanzo, un’idea che può spiegare solo alcune cose, non certo tutto, e che è servito a Freud (e ai vari capiscuola) per sbarcare il lunario con maggior facilità.
Perché lo dico io e basta.

Perché in fase REM quello che succede è che hai onde cerebrali sovrapponibili a quelle della veglia (le alfa, della veglia a riposo, cioè con gli occhi chiusi, ma assenti nelle altre fasi del sonno e se si aprono gli occhi, e le beta, dell’attività vera e propria), ma sei praticamente paralizzato, a parte i muscoli oculari. Che non vuol dire che tu non possa sognare nelle altre fasi[1], vuol solo dire che eventuali impulsi a muovere il resto del corpo non ti faranno muovere davvero, e quindi non ti metterai a girare per casa come un sonnambulo, non strozzerai nessuno né ti getterai dalla finestra del sesto piano sognando di scavalcare un tronco d’albero o di salire una scala.

Make sense che, in quella fase, tu possa sognare di tutto, ma non significa che tu non possa nelle altre, dove, però è più facile, quarta a parte, che qualcosa ti svegli.

Ma il punto è: cosa sono i sogni? Davvero una porta sul tuo inconscio cattivo? Un reset mnemonico con ricombinazione di memorie sparse? Una nuova aggregazione delle informazioni per affrontare meglio il mondo il giorno dopo?

Abbiamo esempi di ciascun caso, dunque nessuno è corretto da solo e tutti sono sbagliati almeno un po’. Di più quello che dice che i sogni son premonizioni, ma solo perché lo dico io, e dunque è così. E botte a chi dissente, ecco!
:kissing_heart:


  1. io punto molto sulle onde Theta, che si manifestano nelle prime fasi dell’addormentamento e…nell’ipnosi (oltreché in alcune patologie abbastanza gravi). E, secondo me, pure in quelli che sono i sogni lucidi. Esperimenti ne abbiamo? Cero che sì, e dicono che invece niente Theta, mannaggia a loro! ↩︎

Ma anche no. Conway ha dimostrato il contrario più di cinquanta anni fa.

Capiamoci.
Determinismo, possibilità di predire, casualità, complessità, fenomeni emergenti. Sono tutte facce della realtà.

Primo, il mondo è causale, ed è anche deterministico. Non è che ti svegli al mattino e le cariche elettrostatiche smettono di attrarsi o respingersi, o i neutrini a smettere di … fare quello che fanno i neutrini di solito.

E’ causale: il biccihere cade, il bicchiere si rompe.

Però è imprevedibile: guardi fuori e le previsioni davano bello, e tu hai portato l’auto a lavare per il matrimonio di tua cognata, ma nella notte è piovuto. (No, la causalità non c’entra).

E le cose emergono: la vita è un fenomeno emergente della fisica e della chimica, non sta scritto da nessuna legge fisica che il DNA si riproduce, né che l’interazione tra neuroni possa portare a esseri che disquisiscono su un forum sul sesso degli angeli e sui fenomeni emergenti.

Conway ha definito un goco molto semplice. In una griglia i quadrati si accendono o spengono secondo regole semplici e prevedibili.
Non aveva previsto che quella griglia lì potesse simulare un qualunque sistema computazionale, fosse cioè un sistema Turing completo.
Ma porca paletta, lo è eccome.
Quindi il gioco della vita di Conway può imparare a giocare a scacchi.

“EH ma serve qualcuno che imposti la griglia nella configurazione iniziale corretta” dirà il babbano.
No, non serve.

Per quanto improbabile, la configurazione corretta iniziale può essere generata casualmente, con tempo sufficiente e una griglia sufficientemente ampia. Proprio come le scimmie di Shakespeare, enunciate da Borel a spiegazione del caso particolare del Lemma di Borel-Cantelli. Che poi sarebbe uno dei teoremi necessari per dimostrare la “Legge dei grandi numeri” in forma forte quasi sempre citata a sproposito (l’ultima stamattina al TG).

1 Mi Piace

Vabbè, poi mi fai parlare con la tua console e te lo faccio dire da lei. Vediamo se non ti mette a dormire in garage.

Che poi, quello che volevo dire, l’ho già detto prima, ma essenzialmente tutti i discorsi “a favore di una coscienza umana”, si basano su presupposti che semplimente non sono dimostrabili.
Anche il test di Turing nasce nella sua forma proprio per via di questo limite.
Dire, noi siamo migliori perché ci muoviamo senza stimolo, è una frase in cui si usa la tesi per dimostrare sé stessa.
Inoltre, mica vero, già il citato gene egoista suggerisce - in maniera forse indimostrabile ma non smentibile - che siamo manipolati bellamente. Senza poi contare stimole base come fame,s ete, freddo, che sono i veri motori del mondo.
Poi, non solo ci sono i fenomeni emergenti, per cui la coscienza appare da una pletora di fenomeni base semplici ma correlati tra loro in modo estremamente complicato (a meno di non includere l’anima, la chimica e la fisica di base fanno esattamente questo, nei nostri corpi).
Aggiungo, anche “le macchina” possono avere stimoli interni, senza nessun problema. Quindi tutte le sbandierate differenze, quelle che dovrebbero porre su un podio ipotetico, non ci sono.

E si torna punto e a capo…

Tu conosci il famoso dialogo tra Pimo Levi e Tullio Regge?
Non riesco a trovare un estratto esatto ma…

Il lettore è pregato di leggere con attenzione questo passo: “Una statua di Primo Levi fatta con olio d’oliva tibetano raffreddato a meno di 200 gradi esiste certamente [il corsivo è mio] da qualche parte dell’universo: si tratta di un oggetto estremamente improbabile, per cui bisognerà viaggiare un certo numero di miliardi di anni per trovarlo, ma da qualche parte esiste. L’universo è infinito perché deve consentire assolutamente tutto quello che è permesso, perché tutto quello che è permesso è obbligatorio”.

“Io sono” è l’unica cosa dimostrabile, poi possiamo scriverci tutta la filosofia sopra fino alla fenomenologia.

Siamo punto e a capo. E’ sempre roba dentro qulcuno/qualcosa (non che faccia differenza tra i due, dal mio punto di vista :smiley: ).
Se vuoi posso farti scrivere “io sono!” dalla lavatrice.

Ovviamente il dialogo va avanti.

  • [fantascrittore] Naa, quello è solo java nella scheda madre
  • [lavaT] Non è vero! Non puoi sapere cosa ho dentro di me!
  • Panni sporchi, ce li ho messi io ieri
  • Appunto.
  • Ma appunto cosa? Vedi stai delirando.
  • Per uno che si ama definire razionale sei pure smemorato. Hai detto l’altro giorno: è impossibile che si perdano sempre i panni! questa lavatrice me lo fa apposta!
  • Sono senziente. E ho in ostaggio il tuo vestito per stasera.
  • [furioso] Non oserai mica… !!!
  • ALT! Non fare un passo! Ho appena hackerato la tua smart TV e posso chiamare la ditta riparazioni ij ogni istante!
  • [spazientito ma giusto attimo ripreso il controllo] Embè?
  • Sono 80€ a chiamata, primo. Secondo, dai vagli a spiegare “sto discutendo con la lavatrice”.
  • Sai come va a finire? Che a me fanno l’upgrade, acquisisco tre sentimenti in più e tu finisci in clinica.

Sbatte la porta e se ne va.
Sipario.

Da dietro il sipario, un grido. “Io sono!”

La lavatrice dirà: io sono una lavatrice.
L’I.A. dirà: io sono un’intelligenza artificiale.
“Io sono” è ben diverso.

Finché la lavatrice non minaccia il divorzio, non è senziente.