LaMDA è senziente?

Perché una lavatrice dovrebbe dire “sono una lavatrice”? Questo lo pensi tu perché stai usando la tesi per dimostrare la tesi.
Mica tu dici “io sono una persona”, dici “io sono”. Quindi tutti diranno “io sono”.
E “io sono” è ben diverso, dall’interno. Dall’esterno, che differenza vediamo? Nessuna. Ed è il problema, che più o meno tutti cercano di evitare, proprio perché la risposta non c’è.

Tutto dall’interno è molto diverso, ma è inconoscibile l’interno degli altri. Per questo Leibniz parlava di monadi.

Due cose per stimolare la discussione:

  1. L’esperimento della stanza cinese
  2. Gli animali. Non sappiamo se siano senzienti.

Pare di sì:

Io distinguerei tra senzienza e autocoscienza. Mi sa che li stiamo confondendo.

Intendo dire che senzienza e autocoscienza li assumiamo per analogia.

Sono cose diverse.

Bravo! È quello che dicevo: Io sono. L’autocoscienza è l’antitesi della coscienza, perché dinamica.
Io sono Io.
Un essere senziente non potrà mai essere infinito, e verrà sempre scoperto perché gli manca quell’uscire da lui, arricchirsi e rientrare. È una dialettica che si consuma, la vita.
Il mio vicino di casa non fa testo.

Premesso che concordo, non posso resistere a dirlo:

Dunque: dove ho messo il bisturi? Fedemone, vieni qui. Che vediamo come sei fatto dentro

Vero. Ma, nella discussione sulle AI, si intendono entrambe. D’altronde, l’AI con la senzienza perde colpi (ed è anche dove ho tirato un paio di freccette), mentre con l’autocoscienza può imbrogliare molto meglio, dato che, appunto, mentre puoi vedere se reagisce a scaldargli la tastiera (no, non reagisce, semmai hai dei problemi tu a comunicare in chat con lei, se era la tua) o se, arrivando un tuono all’improvviso, si scompone, non hai modo di verificare se dicendoti “penso, dunque sono” stia pensando veramente o abbia solo copiato una frase per un’altra (tipo anche “sto vispa e serena”), che per lei hanno lo stesso significato, ma che sceglie di dirti in base al loro essere più o meno adeguate, in termini probabilistici, a quello che le stai chiedendo tu e, almeno in teoria, a quello che vi eravate detti prima (ma su questo, gli sviluppatori devono ancora lavorare).

Vero, ma sono entrambe problematiche da definire, specie per un software.

In che senso? Può avere nozione dell’ora , del meteo, di un sacco di cose. Non come l’abbiamo noi, ma stiamo parlando di una intelligenza (eventuale) diversa.

Tu sai la frase di Clive Barker? “Siamo tutti libri di sangue, in qualunque punto ci aprono siamo rossi.” Così si aprono le due raccolte di racconti pubblicate da Clive Barker tra il 1984 e il 1985

Ottimo, ora basta definirle e distinguerle. Auguri!

Poi hanno guardato com’era fatto dentro.

Ma, dico io, e passarlo ai raggi ICS, no? No: fanno male, hanno detto. E metti che non ti firmi la liberatoria, prima…

Senzienza: sentire coi sensi (almeno uno dei cinque. Per il sesto, ci stiamo organizzando).

chatGP potrebbe al limite sentire solo i bit che passano. Forse, se sta molto attenta.

No, quella è sensibilità. Sentire coi sensi.
La senzienza è la capacità di produrre sentenze, ossia affermazioni, quindi frasi di senso compiuto, autonome (e non pescate da un dizionario).
La coscienza è l’avvedersi di qualcosa, ossia di produrre affermazioni o ragionamenti tenendo conto di qualcosa.
L’auto coscienza sarebbe la consapevolezza che esiste una entità che produce sentenze e che (in teoria) coincide con chi ha consapevolezza.

Tutta questa architettura ovviamente ha un bel da fare per essere convincente…

Comunque l’esperimento della stanza cinese lo trovo riduttivo. E non preclude una coscienza che ha prodotto le risposte (anche fosse appunto un dizionario), e che “noi” riproduciamo pedissequamente.

In linea di massima mi sembra un articolo condivisibile, o comunque un buon punto da cui partire.

Cioè dici che basta collegarle il termometro del nest e il problema si risolve?

Eh sai, come dicevo prima, userei termini differenti, ma diciamo che va bene: senziente = provare emozioni e sensazioni.
Ergo i mammiferi ci finiscono senza problemi. Non soffrono? Non mostrano paura, rabbia, affetto? Gli animali hanno un linguaggio, per cui comprensione del mondo e del prossimo loro, per cui la necessità di comunicare.

Ma è una espressione. Basta? Se sì, si potrebbe estendere a qualsiasi espressione di tali sentimenti (dietro l’angolo è la senzienza di sistemi complessi). Se no, ciao ciao “umanità”.

Ma continuo a pensare che non esiste modo certo né di definire, né confermare quanto smentire tali asserzioni.

Intanto, chatGp è meno senziente di una pianta di rosmarino.

Condivido. Ricordiamoci dell’esperimento della stanza cinese.