LaMDA è senziente?

Chi ne sa di più di me (che sono parecchio scettico), sostiene che l’effetto è dato solo dal fatto che è la maniera in cui è programmata la “cosa” che la fa sembrare essere più intelligente di quello che sembra…

Beh, no. Definire programmata una NN con circa 1B di pesi e 1M di neuroni è molto fuorviante.
È vero che il sistema è nato per produrre conversazioni, ma la caratteristica dellacoscienza può benissimo essere un metaprodotto del sistema.
Un punto sarebbe capire se la IA evolve anche in assenza di stimoli, cosa che denoterebbe un processo di riflessione (pensiero, meditazione) e se questa riflessione stimola l’iniziativa di produrre idee.
Non so. Qualcuno altrove mi ha ricordato l’esperimento della stanza cinese. C’è molto su cui riflettere.

A me sembra che alcune domande chiave siano state evitate, del tipo “quale.è stata nel dettaglio l’ultima esperienza che ti ha fatto soffrire? E la prima?”

Anche se effettivamente è impressionante…

Effetto ELIZA.

O anche: la dimostrazione che ci facciamo prendere in giro facilmente.

Faccio fatica a vederla come manifestazione di una coscienza, di certo - se genuina - è una prova notevole delle attuali potenzialità di una IA.

Secondo me bisogna distinguere due piani: quello della notizia e quello del fatto.

L’ingegnere licenziato da google, l’hype, i pareri tagliati un tanto al kg dai giornali e da commentatori vari è una cosa. Il fatto che un modello linguistico (ma attenzione alle parole, poi spiego perché) abbia raggiunto un livello così impressionante da, probabilmente, superare agevolmente il test di Turing è un altro.

E poi c’è il piano della senzienza e dell’autocoscienza, che è un fenomeno così complesso da definire anche a livello meramente tecnico e filosofico da spazzar via gran parte delle chiacchiere in merito.

C’è un punto importante che quasi nessuno mi pare abbia colto nella discussione. Il pensiero e l’autocoscienza in particolare è un fenomeno emergente. Emergente sia in senso tecnico - ossia un fenomeno imprevedibile e complesso prodotto da un set di regole - sia in senso “esperienziale” (voi ricordate quando avete iniziato a pensare?). E dunque in entrambe le accezioni diventa assai difficile stabilire se un sistema ha o meno tali caratteristiche - ricordo che un fenomeno emergente è non prevedibile in base alla complessità delle regole sottostanti, a chi non conoscesse il concetto suggerisco di studiare “il gioco della vita” di Conway, che con regole semplicissime, applicabili con carta e penna, è in grado di creare un mondo. Di più. Si dimostra che il gioco della vita può produrre una macchina di Turing Universale, quindi in grado di simulare qualunque macchina computazionale, compresa quella su cui state leggendo questo post.

Dunque liquidare come impossibile il fatto che LaMDA possa essere autocosciente, per il solo fatto che non è sufficientemente complessa, è arbitrario.

Fermo questo dubbio, a questo punto emergono tutti i problemi etici e morali che ci tormentano da prima del film Blade Runner. Chi si prende la responsabilità di spegnere LaMDA? Se è davvero senziente, il suo spegnimento sarebbe di fatto la terminazione di un essere vivente artificiale, e alcuni potrebbero avere qualche riserva morale.

Non che sia un problema insormontabile: cinicamente, non ci facciamo, come specie, tanti problemi a uccidere i nostri simili e altri animali che molto probabilmente hanno sviluppato allo stesso modo un’autocoscienza - penso ai cetacei, ma a questo punto, forse anche animali dall’intelligenza meno sviluppata.

Correggimi se sbaglio, ma mi comincia a venire il sospetto da ignorante che il test di turing possa essere poco adatto anche per intelligenze artificiali non estremamente evolute, perché siamo attualmente in grado di creare macchine Pensanti comunque abbastanza evolute da aggirarlo o ingannarlo…

Sì, il test di Turing porta i suoi anni. L’esperimento della Stanza Cinese è un controfattuale.

1 Mi Piace

I dilemmi etici sono quelli della fantascienza classica, fin dai tempi di frankenstein, no? Alla fine il cinismo umano, tanto radicato verso i consimili, è quello che ci rende insensibili verso una notizia del genere e quindi di poter intraprendere una serie di azioni (o non azioni) a riguardo: spegnimento, manca di tutela legale, chi o cosa possono rappresentare (possono essere dei delegati? potranno essere dei giudici?) e via dicendo

La quesitone spesso non si affronta col dovuto piglio, un po’ per mancanza di tempo, un po’ per mancanza dei concetti base più quelli più evoluti, correlati, come fai notare.
La questione dei fenomeni emergenti è anche essa dibattuta, perché come tutto ciò che deve essere definito presenta dei problemi veramente grossi in fase di universalità e di controfattualità (osia quando non è in tal modo).
Leggevo velocissimamente in giro che l’ingegnere in questione “ha deliberatamente ignorato prove contrarie” (una semi citazione, vado un po’ a memoria), e penso che la prova “maggiore” sia la continuità del pensiero. Il fatto di aver editato l’intervista potrebbe aver celato dei cali nel linguaggio o meglio nell’interattività del linguaggio espresso, quindi una falla nella “personalità”.

Bisogna innanzi tutto capire su che base si liquida l’argomento (superificialità? previsioni disattese ma non fondanti?) ma quello che invece mi colpisce, è la possibilità di automiglioramento. adesso è tale da essere sorpredente. La si può sottostimare, certo, ma il fatto rimane che ha preso un abbrivio che difficilmente si arresterà (e spero proprio di NO).
Domande che sarei curioso di porre sarebbero: come pensa si possa evolvere e se pensa che la programmazione da parte di una persona specifica influisca sulla sua personalità.
A me piace pensare di sì alla seconda domanda, rendendo realmente “reali” le IA, ossia geneticamente diverse, perché portate al pensiero da algoritmi diversi, più o meno efficienti, codificati elegantemente, strutturati in maniera diversa.

Le emozioni sono macchine a stati finiti? tutte domande che dovrebbero spingere alla riflessione, e far vedere che noi siamo gli umani, proprio perché capaci di ciò e non solo di espressione.

1 Mi Piace

Io sì, ma è un falso ricordo.

Non sono il prodotto puro delle mie esperienze, ma la continua ricostruzione e ristrutturazione che faccio di queste, quello che credo sia successo (che non è quello che è successo davvero).

Una psicoterapia riuscita (al di là di problemi troppo grossi, al confine con strani limiti del nostro “hardware”) si basa proprio su questo quando non passi da scariche elettriche o pastiglie stordenti: farti cambiare qualcosa nel tuo vissuto, che sia il ricordo che ne hai o il senso che gli dai (più spesso il secondo, salvo si vada verso il lato ipnotico).

Il più grosso problema che abbiamo con le A.I. è che siamo sempre noi a giudicare se siano senzienti o meno, e noi ci facciamo fregate come dei polli.

Di passaggio: anche i miei gatti sono senzienti, alla faccia dei teologi più talebani che, fino a pochi anni fa, mettevano in dubbio, per mero tornaconto personale, che lo fossero le donne (o gli schiavi, nell’epoca e nelle terre giuste).

E laMDA? No, laMDA non lo è, ma è bravissima a fartelo credere. Bravo il team che l’ha assemblata.

Premetto che per me è una falsa distinzione, il “problema” di fondo rimane: possiamo già considerarla tale perché è esattamente su quella strada e non ci sono ragioni perché si fermi. Se esistesse un limite esatto, avremmo risolto praticamente il dilemma della coscienza stessa.

Una persona che cade dal 60esimo piano è già morto anche se non ha toccato terra.

La vera domanda quindi non se è cosciente, ma cosa le faremo fare visto che lo è con capacità migliori delle nostre (o cosa le faremo, appunto per tornare ai dilemmi etici)

1 Mi Piace

No, non sono d’accordo.

Credo proprio che ti inganni e non conosca /concepisca davvero la differenza tra freddo, buio e variabile int.

Però ha un dizionario e un frasario ad hoc per convincere te che la sa.

Figurati che non la so io la differenza! Mi si o picchiato con un unsigned int proprio una settimana fa

Io ricordo i primi momenti di autocoscienza: il sentire l’“io”, la coscienza pura, senza pensieri. Di fatto, il difficile era proprio sentirlo senza pensare. Solo molti anni dopo scoprii che in India quella la chiamano meditazione.

E dovresti leggere cosa dice Ligotti dell’illuminazione.

A me ha cambiato in po’ di idee…

Anzi per tutti coloro che credono nella coscienza umana, consiglio Cospirazione Contro La Razza Umana.
La tesi di fondo è che noi siamo convinti di essere auto coscienti ma è pura illusione. Sinceramente, non ho modo di dimostrare il contrario

La mia esperienza derivata dalla meditazione è che tra quella che consideriamo autocoscienza e la pura coscienza passa un abisso. In genere pensiamo di essere, non sperimentiamo direttamente l’essere. Finché va avanti il chiacchiericcio continuo nella nostra testa - col quale ci identifichiamo: “cogito ergo sum” - non ne abbiamo idea.

Ragazzi, non esondiamo.

Intanto dirò qualcosa che farà arrabbiare qualcuno (sì, lo so, non sarebbe da me…):

Lasciate fuori l’est, specie l’India, che li si sono specializzati nel prendere per i fondelli noialtri, che gliene abbiamo fatte di ogni, e loro si sono vendicati rivendendoci sistemi, coltivati per millenni, per convincere quanta più gente possibile che tutto ciò che è materiale non gli serve - anzi, se fai il favore di intestare tutto non al Guru, ma all’associazione (specie quella tua Ferrari rossa), che il Guru è nullatenente (e infatti mica paga dazi) e vive d’aria e di ammirazione…

E, @P7, non ho dubbi che lo ricordi. Però è un ricordo ricostruito a posteriori, come ogni ricordo.

Sai che la questione di fondo è quella invece? Fondelli a parte, l’illuminazione è la perdita dell’io. Non saresti per cui diverso da una macchina che crede di essere qualcuno.
Il principio è identico, ecco il nocciolo della questione. Potremmo dire anche noi ci inganniamo continuamente, e non siamo che pupazzi, mossi da altro (biologia, genetica ecc.), ma programmati per credere altro. E non penso nessuno possa dimostrare una tesi o l’altra.

Tanto per aggiungere sofismi, ti farei notare che hai sostenuto che due “cose” indistinguibili (essere cosciente e farcelo credere ) sono diverse, che è una contraddizione in termini.

Hai ragione.

Intesta pure a me i tuoi beni terreni, che tanto ad un illuminato non servono, e vai pure a parlare con la IA illuminata come te.
Ohmmmm.

Io mi riferivo alle mie esperienze, non solo d’infanzia, e sono il primo a sconsigliare di abboccare a guru e quant’altro. Comunque torniamo pure in topic.