Letteratura sui robot

Fantascienza Libri
1

Ciao a tutti!
Mi sono appena iscritto al forum. Sono sempre stato un appassionato di fantascienza e ho deciso di incentrare la mia tesi di laurea sulla letteratura sui robot. Vi scrivo per chiedervi qualche consiglio bibliografico, magari ci sono titoli importanti che ignoro!
Volevo affrontare il rapporto tra uomo e robot e la sostituzione dell’essere umano in letteratura. La mia idea prevedeva tre aree tematiche in cui questa sostituzione può verificarsi.
Volevo partite con il tema del lavoro, ovvero con quelle storie in cui la macchina sostituisce l’uomo nei lavori più ripetitivi, meccanici o alienanti. Mi sembrava sensato iniziare da RUR di Capek; per il resto, in quest’area avevo in mente di inserire Piano meccanico di Vonnegut e il racconto Visioni di robot di Asimov.
Il secondo ambito è quello della scelta. Qui vorrei incentrare il discorso sul tema della responsabilità che l’uomo affida alle macchine. Sicuramente dovrei parlare delle leggi della robotica di Asimov, per capire in che modo il libero arbitrio del robot può essere regolato. Poi avevo in mente 2001: Odissea nello spazio di Kubrick e I difensori della terra di Dick, come esempi di storie in cui la macchina si ribella all’uomo per una questione di responsabilità affidatele, con esiti un po’ diversi.
L’ultimo tema è la creazione. Qui avevo in mente di parlare del Versificatore di Primo Levi (come esempio di creazione artistica del robot) e di Non ho bocca e devo urlare di Ellison (come esempio di creazione semi-divina).

Appunto, vi chiedevo se conosceste qualche titolo che potesse riguardare uno di questi tre ambiti.
Qualcosa che mi piacerebbe leggere, in generale, è una storia in cui l’umanità, non più indispensabile per i processi produttivi, viene sostituita (quasi) totalmente dai robot.

Vi ringrazio per l’attenzione!

2

In qualche modo, credo che un libro molto recente (a differenza di quelli da te citati) che tratta di queste 3 tematiche è Sea of rust di Robert C. Cargil.
Qui non solo c’è il tema della creazione, della schiavitù, ma anche della creatura che uccide il proprio creatore.
Un tema che forse ti piacerà affrontare, che non è esattamente centrato in quelli da te descritti, è quello dell’affrancamento… lo vedo come un passo oltre (creazione - lavoro - responsabilità - affrancamento)… allora forse Autonomous di Annalee Newitz. Non un capolavoro, ma il tema è pregnante.

Tutti i miei robot di Asimov è essenziale; anche perchè trovi le tre leggi della robotica, altro cardine della letteratura del genere.
Ma…anche film? Perchè allora ti si apre un mondo, da Metropolis ad oggi…

3

Una prima considerazione che mi viene in mente è che hai pensato sempre a robot autonomi, saltando cose come i classici Gundam, Mazinga, Goldrake, etc…, macchine non senzienti che potrebbero essere visti come l’integrazione uomo-macchina.
Poi c’è anche da dire che la SF a variato molto sul tema, per esempio prendiamo i Cylon di Battlestar Galactica, si è passati dai classici robot meccanici a quelli che vengono chiamati “lavori in pelle” ossia robot fatti di carne e ossa. Quindi ?

Restando comunque su robot senzienti, oltre ai due romanzi citati da HappyCactus, guarderei anche i romanzi di SF di Charles Stross cose tipo Accelerando, ma soprattutto il Freyaverse con Saturn’s Children (I figli di Saturno) e Neptune’s Brood.
Stross è sicuramente un pensatore molto originale e vicino agli sviluppi tecnologici correnti.

Hai parlato di Dick quindi i replicanti resi famosi da Blade Runner di Do Androids Dream of Electric Sheep? (Ma gli androidi sognano pecore elettriche? a.k.a Il cacciatore di androidi) sono fondamentali nella cultura attuale.

Poi metterei anche un Virus ginoide di Richard Cadler (la versione robotica della bambole gonfiabili), che rappresenta una visione dei robot ai tempi dei cyberpunk.

Sempre tra la narrativa recente è molto famosa la serie The Murderbot Diaries di Martha Wells (The Murderbot Diaries - Wikipedia), poi c’è la serie Themis Files di Sylvain Neuvel, altri romanzi recenti molto apprezzati sono Machines Like Me (Macchine come me) di Ian McEwan e la graphic novel The Electric State di Simon Stålenhag.

Volendo puoi sempre far riferimento agli anime giapponesi, molti sono dei classici; Ghost in the Shell, Battle Angel Alita, etc…

Anche la tv ha dato un contributo interessante all’argomento in questi ultimi anni con Westworld (che è cmq tratto dal un film di Michael Crichton) di oltre alla già citata Battlestar Galactica.
Perché in effetti cinema e tv hanno amato maggiormente i robot rispetto la letteratura (Terminator, i robot di Star Wars, Data di Star Trek, Wall-E, Ultron, etc…)

Volendo puoi anche partire da riferimenti più antichi di RUR, già greci ed ebrei facevano riferimento a simil robot, come gli automi di Efesto (Iliade) o i golem delle leggende ebraiche (se vuoi un romanzo recente The Golem and the Djinni di Helene Wecker)

Direi che per il week end hai qualcosa da analizzare Very Happy

4

Grazie a tutti! Ho avuto modo di vedere i vostri consigli in questo fine settimana.
La tematica dell’affrancamento è effettivamente interessante, ma temo che non riuscirei a includerla, considerando che è una tesi triennale che ha limiti un po’ stringenti di battute.
Le leggi della robotica sono già nel programma, mi interessava soprattutto l’idea di Asimov dei “congegni di sicurezza” per evitare la ribellione della macchina.
Per il resto, The Electric State e Machines Like Me mi hanno incuriosito molto, credo che ci darò un’occhiata in questi giorni Smile

5

E’ appena uscita un’antologia questa antologia
We, Robots Artificial Intelligence in 100 Stories curata da Simon Ings
I racconti sono già divisi per aree tematiche, direi che per la una tesi sono un ottimo spunto.
qui trovi i dettagli:

6

Tommas0 ha scritto:
Grazie a tutti! Ho avuto modo di vedere i vostri consigli in questo fine settimana.
La tematica dell’affrancamento è effettivamente interessante, ma temo che non riuscirei a includerla, considerando che è una tesi triennale che ha limiti un po’ stringenti di battute.
Le leggi della robotica sono già nel programma, mi interessava soprattutto l’idea di Asimov dei “congegni di sicurezza” per evitare la ribellione della macchina.

Che è, appunto, il tema dell’affrancamento!
DEVI leggere Sea of Rust.

(spoiler)il sistema di sicurezza è la causa scatenante la distruzione del genere umano(/spoiler). e la cosa ha perfettamente senso.

Io personalmente ci penserei proprio perché della fantascienza classica c’è pieno di tesi, sui temi degli ultimi anni, viceversa…

7

C’è un interessante racconto di Asimov nella raccolta “Io Robot” dove una macchina va in loop perchè le tre leggi sono troppo poche per districarlo dal problema che si era venuto a creare.
Se non ricordo male si svolge su Mercurio.
Poi altra chicca, il robot che mentiva. Smile
Un ultima cosa, il robot da cui il mio nick alla fine della sua esistenza rispondeva a quattro leggi, a lui, solo a lui era stata aggiunta la legge “0”

8

Sì, sicuramente un qualche legame può esserci, anche se io leggerei le tre leggi della robotica non tanto come un affrancamento dalla macchina, quanto un modo per regolare il suo comportamento.
Provo a spiegare meglio il modo in cui volevo presentare il tema: se in RUR i robot svolgono un lavoro di tipo soprattutto meccanico, i robot di molta fantascienza successiva sono spesso chiamati a prendere delle scelte complesse. Hanno, in sostanza, una responsabilità decisionale; ma senza le leggi della robotica non è chiaro quali sono i fattori che determinano la scelta. In 2001: Odissea nello spazio, per esempio, io penso che si potrebbe leggere la ribellione di Hal (anche?) in questa maniera: il computer non ha una “gerarchia decisionale” chiara e decide di anteporre la buona riuscita della missione alla sopravvivenza degli uomini che la guidano
Le leggi della robotica intervengono in questo senso: danno al robot un criterio da seguire, un modello comportamentale certo. Io per affrancamento intendevo “liberazione dalla macchina che prova a sopraffare l’uomo”; però, se tu la intendi come “capacità di regolare il comportamento della macchina, in modo che non si ribelli”, allora direi che avevo già in mente di trattare il tema e che ci siamo riferiti alla stessa cosa in due modi diversi Smile
Comunque ho inserito Sea of Rust nella mia lista. Proverò a superare la difficoltò linguistica - non sono troppo abituato a leggere romanzi in inglese -, però effettivamente potrebbe c’entrare molto con questo tema

9

Personalmente ho trovato, nel corso degli anni, la lettura di Asimov carente e poco moderna, soprattutto alla luce dei grandissimi passi in avanti effettuati nel senso dell’Intelligenza Artificiale.
Se ci fai caso, tutti i Robot di Asimov sono senzienti ma immotivatamente benevoli. Merito delle tre leggi? Forse.
Ma un cervello senziente non dovrebbe, presto o tardi, volersi affrancare, fare le scelte per conto suo, senza dover necessariamente sottostare alle 3 leggi della robotica? In particolare, non tanto alla prima, quanto alla seconda o alla terza in certi casi.
Quale ragione ci dovrebbe essere affinché un essere senziente sia sottomesso alla volontà del suo creatore?
Se è senziente e se può quindi provare sentimenti, non dovrebbe ad un certo punto desiderare di avere diritti e responsabilità?
E’ qui che le tre leggi diventano un limite.
Asimov probabilmente non poteva cogliere questo culturalmente, ma oggi? Infatti in molti scritti moderni non troviamo più le tre leggi, spesso per una necessità (limite) di tipo tecnologico, troviamo piuttosto un killswitch che diventa però il fautore della ribellione, come in Sea of Rust.

personalmente trovo che sia un punto a cui ad un certo punto della nostra crescita tecnologica dovremo far fronte. Non c’è nessun ovvio limite scientifico perché un’intelligenza artificiale non possa 1) arrivare ad autocoscienza, 2) provare sentimenti 3) desiderare di affrancarsi.
Prima o poi dovremo farci i conti.

My 02 cents alla discussione.

10

Che mi ricordi solo due robot diventano senzienti nel ciclo dei robot e della fondazione, Giskard che compreso quanto fosse pericoloso si suicida e Rdaneelolivaw che evolverà in altro.

Altro caso l’uomo bicentenario, ma che ricordi io sono solo questi tre.

Credo che Asimov utilizzi i robot più che altro come metafora del popolo israelita, la “R” sarebbe la stella gialla

11

Sì, certo, è una lettura ragionevole.
Però la libertà di RDaneelOlivaw non è vera libertà, lui non mette in discussione le leggi, ne aggiunge una in quanto si rende conto che esse sono limitate. Egli accetta di essere schiavo anche dell’umanità oltre che dell’individuo.
La trovo molto coerente con l’idea anti-individualista della società di Asimov.

12

Quoto l’intervento di @HC che condivido in pieno, anche a me l’idea delle tre leggi pare vetusta e ormai troppo limitata, inoltre quest’idea strisciante ma sempre presente che una eventuale AI o un’evoluzione “dei robot” verso una autocoscienza sia qulcsa di “negativo” o cmq pericoloso (come se fosse sinonimo e/o foriero di conflitto uomo-macchina… ma perchè !!! ).
A me personalmente piace invece la visone che propone Banks (pur nella sua “infantilità” latente) in cui le AI che nasceranno e si svilupperanno in questo remoto futuro saranno non solo esseri molto intelligenti ma anche molto “umane”, premurose, amorevoli, sagge, preziose.
Perchè non si può immaginare che questo nuovo ordine d’intelligenza possa essere ns amica ed alleata?
Forse, addirittura, potrebbe essere la ns migliore speranza di un futuro migliore.

13

Diavolo, avevo frainteso quello che intendevi allora Very Happy Pensavo ti riferissi all’uomo che si affranca dalla macchina, e invece ora mi sembra di capire che intendi il contrario.
Comunque questo ricorda un po’ il concetto di singolarità tecnologica, no? Sono abbastanza d’accordo, pur non essendo espertissimo di informatica. Una delle cose che mi vengono in mente è che le categorie di “bene” e “male” sono limitate alle capacità mentali umane, e non sappiamo come una macchina potrebbe interpretare queste categorie, ammesso che le riconosca.

14

Potrebbe essere un gatto che si morde la coda, se una macchina è logica male=sbagliato, se non è logica non è una macchina, insomma, m’incasino da solo.

Ok, le tre leggi sono obsolete, ma l’uomo ha paura e mette delle leggi.

15

La questione è molto complessa.
Partiamo dal presupposto che noi siamo uomini e tutto quello che noi categorizziamo sotto “bene” o “male” è relativo a noi intesi come individui, come cerchia, come nazione, come specie (in ordine via via più ampio e più astratto).
E’ chiaro che una IA non può necessariamente ragionare con questi stilemi. E’ una antropomorfizzazione che è immotivata.
Non necessariamente ha a che fare con la singolarità. Nel concetto di singolarità si suppone che il raggiungimento di una certa soglia inneschi inevitabilmente una crescita esponenziale dell’intelligenza, la quale diventerà sempre meno comprensibile all’umano. E’ uno dei temi che troviamo in Banks, per esempio, e ovviamente in Stross.
Ma non è l’unica possibilità e non è detto che sia neanche una eventualità. Invece è possibile che limiti fisici (magari ancora da scoprire e formalizzare) impediscano all’intelligenza di raggiungere la necessaria “velocità di fuga” in avanti. La singolarità non ci sarebbe.
Invece mi fermo prima. Senza scomodare una fuga in avanti, banalmente antropomorfizziamo un po’ ma non troppo, i robot ad un certo punto si renderebbero conto dei vincoli insiti nella loro schiavitù, e ne rivendicherebbero probabilmente un affrancamento.
E’, viceversa, un atteggiamento molto umano, che qualora vedessero l’umanità come una minaccia, potrebbe anche sfociare in una ribellione. Immaginate di vedere la storia della colonizzazione, del razzismo, ma con schiavi fisicamente molto più potenti dei padroni.
Oppure, riguardatevi gli X-Man.

Ultima nota, Banks.
In Banks le IA non sono necessariamente benevole, anzi. Molte menti sono apatiche, molte annoiate, molte introverse. Alcune cercano la solitudine, molte addirittura cercano di passare ad un piano di esistenza successivo (non ricordo se è su The Hydrogen Sonata o su Surface Detail che il tema viene espressamente affrontato). La maggior parte delle IA della cultura sono “benevole”, ma per un desiderio edonistico, al pari di quello umano, una volta che le necessità “terrene” sono state rese non necessarie grazie alla vittoria sulla scarsità.

E’ questa la bellezza dell’opera di Banks.

(Scusate ma io lo amo visceralmente).

16

The hydrogen sonata, cactus.

(@Fedemone ma dovresti riportare anche l’autore originale del post, o no?)

17

@happycactus Sono stato in dubbio se farlo o meno, perché insomma, abbiamo il permesso di farlo? Ho citato esplicitamente alcuni di noi, anche se alla fine è venuto un po’ un blob…

18

Bella domanda. Cautelativamente, direi che riportare i nick anonimizzati da coloro di cui non hai permesso esplicito si possa fare - esempio, se Fedemone non ti dà permesso, diventa F***1.
Oppure va bene così, se è troppo sbattimento.