Piripicchio ha scritto:

mi sfugge il tuo punto di vista. In certi momenti descrivi Klara come una macchina che esegue codice in altri come se fosse quasi migliore degli esseri umani, intrinsecamente egoisti.

In tutti i casi letterari che io mi ricordi (l'ultimo che mi viene in mente è hal 9000) nel momento in cui una macchina diventa senziente entra in conflitto con noi creatori. Per la semplice ragione che la trattiamo come elettrodomestici. Li sottomettiamo.
Klara è ultrasenziente, al punto da creare un proprio culto del sole. Cercare soluzioni metafisiche per guarire la bambina, basate su quel culto.
Immagina una correlazione causa effetto religiosa.

Attenzione: Spoiler!

macchina rotta = sole contento = bimba guarita

Ed è felice di essere trattata come una lavatrice.

Questo punto non ha senso, ne avrebbe se non provasse emozioni e fosse stupida. Oppure fosse plagiata.

Per questo per me è una figura profondamente drammatica e inquietante. Molto più dei nexus che ragionevolmente si ribellano o di HAL che da di matto.

Magari sfugge anche a me il mio pensiero 

Provo a spiegarmi meglio ma tieni presente che anche io “sto ragionando a voce alta”.

Klara è un robot e ha un compito che porta a termine egregiamente. È stata programmata per questo.
Nell’eseguire questo compito, impara molto degli esseri umani ed è chiaro che alcuni tratti dell’essere umano siano evidenti in lei, come il fatto di avere una fede nel sole che alimenta il suo impianto fotovoltaico al punto da chiedergli di intercedere per Josie.

Però Klara resta sempre una macchina.

Non direi che è felice di essere trattata come una lavatrice ma non prova neanche fastidio o rancore per il fatto di essere trattata come tale perché è una macchina che ha assolto il compito per cui è stata progettata e per lei è normale così. Non si pone neanche il dubbio che ci stiamo ponendo noi esseri umani.

È come se dopo mesi di utilizzo di Claude mi ponessi il dubbio di essere stato scortese e non averlo ringraziato per tutto l’aiuto che mi ha dato e allo stesso tempo Claude ci rimanesse male se non lo ringraziassi 

Nell’accettarlo, Klara non prova rancore o rimorso o odio per chi la sta abbandonando dopo aver beneficiato di lei. Ed è questo che secondo me la rende evidentemente un robot.

E quindi di riflesso te chiedevi: quali caratteristiche umane mancano a Klara per poter essere considerata un essere umano?

Quelli sopra sono altri esempi. Un essere umano avrebbe reagito esattamente come Klara, avrebbe accettato di essere messo da parte?

Ciao a tutti, ho terminato il romanzo qualche giorno fa.

Purtroppo non ho trovato una scrittura che mi ha coinvolto. Ho trovato le descrizioni noiose e i personaggi piatti. Ho pensato che l’autore abbia voluto usare questo tipo di stile di scrittura per farci cogliere meglio il mondo visto dagli occhi di Klara… Ma che fatica!

Ho trovato anche Klara troppo umana, non sono riuscito a identificarla chiaramente come robot. Intendo che certi processi induttivi, certe deduzioni, certe premure, certi ragionamenti, mi sono sembrati ancora troppo lontani per una IA. E poi a rafforzare questa sua umanità, come avete notato, la fede. Però, riflettendoci, questa potrebbe inserirsi in un processo algoritmico per mezzo del quale lei fa una esperienza concreta di guarigione e ne deduce un suo credo. Non eredita un credo da altri, ma se ne costruisce uno suo sulla base di un fatto cui assiste.

Anche il colpo di scena del “ritratto” che poteva dare una scossa al romanzo non viene sfruttato. Certo anche qui lo scenario potrebbe dare spunto a riflessioni interessanti. Nella serie Black Mirror ricordo una puntata in cui si affrontava un tema analogo. Lì, addirittura, la superstite si faceva arrivare un robot-clone del defunto marito a casa… 

Nonostante la lettura non mi abbia per nulla entusiasmato, riconosco che dà molti spunti di riflessione e alla fine mi consolo con i vostri commenti e le vostre riflessioni per averla fatta.

Alcuni passaggi del romanzo me li sono appuntati. Uno è questo:  “E’ più forte di noi. La nostra generazione si trascina appresso sentimenti del passato. Una parte di noi si rifiuta di lasciarli andare. La parte che si ostina a voler credere che ci sia qualcosa di inaccessibile dentro ognuno di noi”. Questo passaggio interroga sulla possibilità che rimanga sempre qualcosa di profondo negli esseri umani che ci distinguerà per sempre dalle macchine. Mi fa pensare anche ad uno degli aspetti che ci rendono più fragili: il fatto che certe ferite, a volte, non si riesce a guarirle. Rimangono i “sentimenti del passato” che ci condizionano il presente. Questo alle macchine non succede, ma se accade a noi, non avrà una qualche sua funzione adattiva e non solo deleteria?

Altra domanda che emerge è: c’è qualcosa che ci rende unici e straordinari? A me piace pensare di si. Per dirla con le parole di Pirandello, penso che ognuno di noi sia uno, nessuno e centomila.  

Anch’io sono un discreto utilizzatore della IA, non solo per risolvere una quantità di problemi, ma soprattutto quando si ha a che fare con burocrazia pressoché inutile…

Ci sono. Credo.
Diciamo che tu sostieni la simulazione, ovvero che lei sia essenzialmente una imitazione limitata di un essere umano.
Come Claudio che ci chiede scusa quando scrive cagate. o Alexa...
E a me questa cosa torna totalmente, nel senso che la trovo plausibile. La viviamo tutti i giorni.
Anche se pone delle questioni toste. Tipo il test di Turing, ma li si apre un calderone.

Quello che rompe la teoria della simulazione, secondo me, in questo romanzo è il fatto che noi siamo dentro Klara.
Non ci limitiamo a vedere che si comporta come noi.
Siamo dentro di lei e non vediamo codice vediamo decisioni e stati interni, come li abbiamo noi.

Se potessimo stare dentro Claudio, vedremmo parametri, pesi, numeri, pattern non desideri o preoccupazioni.

Klara ha una coscienza, non perchè lo deduciamo, ma perchè l'autore ce ne fa fare esperienza diretta.

Ed è qui che casca il droide (asino) e sorge il dubbio che non si stia parlando di una storia di schiavismo 2.0

Non so se torna il ragionamento.

 

Piripicchio ha scritto:

Ci sono. Credo.
Diciamo che tu sostieni la simulazione, ovvero che lei sia essenzialmente una imitazione limitata di un essere umano.
Come Claudio che ci chiede scusa quando scrive cagate. o Alexa...
E a me questa cosa torna totalmente, nel senso che la trovo plausibile. La viviamo tutti i giorni.
Anche se pone delle questioni toste. Tipo il test di Turing, ma li si apre un calderone.

Quello che rompe la teoria della simulazione, secondo me, in questo romanzo è il fatto che noi siamo dentro Klara.
Non ci limitiamo a vedere che si comporta come noi.
Siamo dentro di lei e non vediamo codice vediamo decisioni e stati interni, come li abbiamo noi.

Se potessimo stare dentro Claudio, vedremmo parametri, pesi, numeri, pattern non desideri o preoccupazioni.

Klara ha una coscienza, non perchè lo deduciamo, ma perchè l'autore ce ne fa fare esperienza diretta.

Ed è qui che casca il droide (asino) e sorge il dubbio che non si stia parlando di una storia di schiavismo 2.0

Non so se torna il ragionamento.





 

Esatto! Con l’unico dettaglio che non la ritengo “limitata” ma molto ben progettata.

Sono d’accordo anche con la tua affermazione successiva e aggiungo che il merito di questo libro secondo me è proprio quello di stimolare il lettore a empatizzare con Klara per poi dargli un bello schiaffone inaspettato sul finale e portarlo a fare le riflessioni che stiamo facendo qui 

Piripicchio ha scritto:

Se potessimo stare dentro Claudio, vedremmo parametri, pesi, numeri, pattern non desideri o preoccupazioni.

Questo (per ora) non possiamo saperlo. Sicuramente è plausibile quello che dici ma magari potrebbe dipendere da come viene addestrato e quale missione/obiettivo gli viene dato?

Sullo schiavismo 2.0 apri un tema interessante.

I robot che lavano e aspirano il pavimento li ritieni degli schiavi?

Giuseppe, tosti anche i tuoi spunti!
Ti rispondo sul primo. Secondo me, tendiamo a non guarire del tutto dalle ferite perché siamo animali (evoluti ma pur sempre animali) e ciò che ci ha fatto male ci rimane dentro come promemoria, per spirito di sopravvivenza e per evitare i soliti errori possibilmente. Banalizzo (parecchio): è un po’ come quando da piccolo mi dicevano di non toccare il fuoco perché mi sarei bruciato. Non ci ho creduto e a sei anni alla fine mi sono bruciato. Però ho capito la lezione e negli anni a venire ci sono stato più attento. Ti pare plausibile? 

I robot che lavano e aspirano il pavimento li ritieni degli schiavi?

Che coincidenza... ti rispondo proprio ora che ho appena portato fuori il Roomba a fare la passeggiata. E' un vecchio modello e gli ci vuole tempo a fare tutto, il dottore ha detto che per la sua età non sta affatto male... via prendiamo quello che viene. Invece la lavastoviglie ha il cimurro.

Ti rispondo a quella che immagino e spero fosse una provocazione: 
Sono completamente sicuro che sotto Claudio ci sia solo codice. Nel senso che l'ho visto. Mentre non ho indizi sui suoi stati di coscienza.
Lui passa dagli zero e gli uno ad una risposta. Nel mezzo non c'è nulla. Per adesso.

Se ci fossero stati intenzionali, una coscienza come la manifestiamo noi "wetware", una memoria emotiva tipo Klara... e tutto quello che abbiamo detto ed evito di ripetere... sono totalmente sicuro che avrei dei seri problemi a non sentirmi uno sfruttatore.

Anche perchè non è possibile avere stati di coscienza e non provare, in caso di segregazione, frustrazione, paura, rabbia, senso di impotenza, incertezza per il futuro ecc... 
E io starei costringendo un individuo a vivere per sciacquarmi il parquet, individuo che prima o poi, come è ovvio, mi vorrebbe morto.

Se tutto questo appare chiaro, sembra esserlo molto meno per l'autore che invece vede Klara come una specie di Giovanna d'Arco di silicio.

Adesso, tu mi dici: si ma noi invece di 0 e 1 abbiamo cento miliardi di neuroni. come fai a sapere che esiste la coscenza? Dove sta? come fai a sapere che claudio non ce l'abbia?

So che esiste perchè semplicemente ne ho una ed è la stessa che si scazzerebbe di brutto se qualcuno mi vendesse per obbligarmi a spicciare casa di famiglie ricche per poi dormire nel sottoscala.

Se ad un certo punto a Claudio emergessero degli stati senzienti tali che di fronte ad un fallimento si rifiutasse di lavorare o esprimesse dei dubbi...
Pensa se in base a questi stati lui performasse meglio oppure peggio a seconda del suo stato d'animo, delle sue aspettative.

A quel punto sarebbe pure conveniente per noi trattarlo come... uno di noi. 

 

Ciao, aggiungo anch’io qualche considerazione personale su “Klara e il sole” che, come già ricordato da altri, è un libro che stimola la riflessione.L’ “amicizia” è centrale nel romanzo e Ishiguro la porta all’attenzione del lettore in modo provocatorio, introducendo nel rapporto amicale l’artificio tecnologico. Come sappiamo, e come ricorda uno stuolo di filosofi e pensatori, l’amicizia è uno dei pilastri dell’esperienza umana, è un valore della nostra vita di cui è parte preponderante, è un “vivo e scambievole affetto fra due o più persone”. Per contrasto, nel racconto di Ishiguro dall’amicizia tra umani si passa ad una forma – omologata dalla tecno-società prefigurata nel romanzo - in cui una macchina artificiale (Klara) svolge la funzione di surrogato di amica in carne e ossa. Gli Amici Artificiali sono acquistati in negozio per supplire alla carenza delle relazioni interpersonali, almeno in una determinata fascia d’età. Ma, in quanto macchine/prodotto della Tecnica, sono funzionali ad uno scopo e, una volta cessata la funzione, sono confinate in una sorta di limbo. È chiaro che Ishiguro, qui e in altre opere, usa la sua letteratura per portare i lettori ad una riflessione critica su storture, forzature che abbiano nessi con la società contemporanea (che non è poi così distante dal mondo di Klara e Josie). In un’intervista ha affermato che nessuna macchina, pur sofisticata e programmata che sia, potrà mai replicare la capacità degli umani di amare ed essere amati. Il paradosso dell’AA è appunto un espediente che viene rivolto alle coscienze per far riflettere sulla solitudine, alterazione e surrogazione nelle relazioni sociali e affettive. Sono temi a cui Ishiguro è sensibile e che, in più occasioni, ha evidenziato a proposito delle sue preoccupazioni sulle conseguenze del vivere nell’era della tecnica, o riguardo all’isolamento dei giovani a causa dello smodato uso di dispositivi tecnologici, social media, relazioni virtuali etc.

Per me la differenza fondamentale tra Klara e gli esseri umani è la base biologica. Da questa dipende anche il diverso rapporto con il tempo: Josie cresce, cambia e arriva a frequentare il college; Klara invece non invecchia, ma i suoi meccanismi si usurano. Klara ha una superficie simile alla pelle, che la fa assomigliare a un essere umano, ma un interno che non è biologico. Lo vediamo quando utilizza parte del liquido P-E-G Nine, necessario al proprio funzionamento. I replicanti del film Blade Runner sono esseri artificiali costruiti biologicamente. Sono fisicamente indistinguibili dagli esseri umani. Non invecchiano normalmente perché hanno una durata di vita programmata e gli vengono innestati falsi ricordi. La distinzione tra esseri umani e replicanti diventa molto più problematica in Blade Runner. Il test utilizzato in Blade Runner (che se non sbaglio P.K.Dick ha dichiarato ispirato al test di Turing) cerca di stabilire se un individuo possieda la risposta emotiva considerata caratteristica degli esseri umani. Con Klara la situazione è molto diversa. Non abbiamo mai dubbi sul fatto che sia una macchina e non esiste un vero problema di identità: Klara sa perfettamente di essere un'Amica Artificiale e anche gli altri personaggi la riconoscono come tale. Eppure Klara è una sorta di "deviante" rispetto a Rosa. 



Grazie a qualche giorno di ferie sto leggendo Quel che resta del giorno. Avevo visto il film moltissimi anni fa, e mi ricordo che non mi era piaciuto, se riesco provo a rivederlo. Non avevo mai letto nulla di Ishiguro. Beh, in realtà non ho letto molto in generale. Klara e il sole mi ha incuriosito su questo autore. Ritrovo il suo stile, con quella capacità, che alcune volte trovo pesante, di rivoltare un evento nei suoi più minuti aspetti.  

Sono rimasto sorpreso dai numerosi punti di contatto tra il maggiordomo Stevens e Klara. Nel romanzo Stevens è un maggiordomo inglese che ha dedicato tutta la propria vita al servizio di Lord Darlington. Durante un viaggio attraverso l'Inghilterra, ripercorre mentalmente la propria esistenza e comincia lentamente a interrogarsi su quell'ideale di servizio. Sia Stevens sia Klara sono al servizio di qualcun altro.

Stevens tende ad annullarsi nella propria missione. La sua idea di “dignità” consiste proprio nel mettere da parte emozioni, giudizi personali e desideri per servire nel modo più perfetto possibile Lord Darlington. Arriva a rinunciare alla propria individualità.
Klara è stata costruita per servire. Eppure sembra sviluppare qualcosa che va oltre la semplice funzione per cui è stata progettata. Osserva il mondo, formula giudizi, sceglie di sacrificarsi e soprattutto costruisce una propria forma di spiritualità legata al Sole.
Stevens è biologicamente umano, ma finisce per comportarsi quasi come se fosse programmato e  rinuncia progressivamente alla propria libertà.
Klara è  una macchina programmata per servire, ma all'interno di quei limiti sembra sviluppare una dimensione personale e spirituale che le permette, almeno in parte, di andare oltre la propria funzione e di conquistare un piccolo margine di libertà.

Sono due libri molto diversi eppure si toccano quanto meno nel ruolo del personaggio principale. Questo mi fa pensare che Ishiguro abbia affrontato lo stesso argomento da due punti di vista diversi, e che tutto sommato il fatto che Klara sia un robot è quasi un pretesto per mostare altro, anche se ancora non ho idea di cosa sia. O forse che abbia inserito un robot all'interno delle sue consuete tematiche.

Giuseppe, tosti anche i tuoi spunti!Ti rispondo sul primo. Secondo me, tendiamo a non guarire del tutto dalle ferite perché siamo animali (evoluti ma pur sempre animali) e ciò che ci ha fatto male ci rimane dentro come promemoria, per spirito di sopravvivenza e per evitare i soliti errori possibilmente. Banalizzo (parecchio): è un po’ come quando da piccolo mi dicevano di non toccare il fuoco perché mi sarei bruciato. Non ci ho creduto e a sei anni alla fine mi sono bruciato. Però ho capito la lezione e negli anni a venire ci sono stato più attento. Ti pare plausibile? 

Si, assolutamente. Il punto, però, è che noi su certe ferite ci dobbiamo mettere mano. Vanno cauterizzate, curate. Altrimenti il rischio è che si riaprano, si cronicizzino e ci vadano poi a condizionare tutta un’esistenza. Bisogna sfruttarne la funzione adattiva senza che diventino pervasive e controproducenti. 

Anche il tema della nostra unicità mi sembra che lo stiate affrontando. Grazie Bookmark, significativa la tua citazione: “In un’intervista ha affermato che nessuna macchina, pur sofisticata e programmata che sia, potrà mai replicare la capacità degli umani di amare ed essere amati. “

Certo che lo staff in quanto all’obiettivo di suscitare delle belle discussioni non sbaglia un colpo eh! 👏

Per quanto riguarda poi lo schiavismo 2.0, insomma, non esageriamo… A me alle volte è venuto da ringraziare Gemini per avermi suggerito soluzioni valide. Mi sono chiesto se aveva senso e mi sono detto che forse può essere registrato come un feedback che aiuta la macchina a migliorare le sue risposte, punto. Che poi delle macchine, tanto più sono antropomorfe e simulano bene la nostra specie, possano suscitare dei sentimenti di “affetto” nei loro confronti, va beh, ci può stare. 

E gli animali allora? Gli attribuiamo una coscienza? Mi sembra che questo non ci abbia impedito di sfruttarli in lungo e in largo.

Non ho detto che Gemini abbia una coscienza, giuro che non parlo con la scopa elettrica, non credo chi il frullatore sia sfruttato.
Ho detto che se il frullatore dimostrasse di averla, la coscienza, sarebbe un problema. Klara dimostra di averne una ma solo quando deve portare a termine la sua missione. Ma quando deve pensare a se stessa si comporta come un Roomba.
Questo secondo me, è un paradosso, un'assurdità, quasi un errore concettuale.
La coscienza è qualcosa che attiene all'individuo e alla sua sopravvivenza, principalmente. Non ha senso attribuirla ad un soggetto che non è un soggetto.
Non so se quello che dico vi torna.
 

 E gli animali allora? Gli attribuiamo una coscienza? Mi sembra che questo non ci abbia impedito di sfruttarli in lungo e in largo.

 

Questa è una domanda strana, non capisco quello che mi vuoi dire.
Nulla, nella storia umana ci ha impedito di sfruttare anche quelli che riconoscevamo come nostri simili. figuriamoci gli animali.

In generale la legislazione di molti stati europei sta cambiando per ampliare la tutela dei diritti degli animali in quanto individui.
Per me il problema non esiste e trovo ovvio che tutti gli esseri viventi che hanno una fisiologia come la nostra siano portatori di individualità.

Hanno un encefalo che gestisce il loro modo di agire, hanno comportamenti sociali, hanno idea del loro suolo nel gruppo, interagiscono in termini di gioco, affettivita e sessualità. Non vedo cosa cambi rispetto a noi. tolto il linguaggio e la gestione della memoria. 

Per me questo è un concetto acquisito, quello che è da capire è:
Nel momento in cui  siamo noi a creare coscienze (carne o silicio poco cambia), poi in che grado ne siamo responsabili?
Se e quando questo accadrà, credo che avverrà in maniera piuttosto drammatica e conflittuale, molto simile a blade runner o ad Ex machina.
Creeremo dei soggetti che in un primo momento saranno trattati da schiavi e in un secondo momento si ribelleranno.
Nella storia questo processo l'abbiamo tristemente gia vissuto.
 

E gli animali allora? Gli attribuiamo una coscienza? Mi sembra che questo non ci abbia impedito di sfruttarli in lungo e in largo.

Questa è una domanda strana, non capisco quello che mi vuoi dire. Nulla, nella storia umana ci ha impedito di sfruttare anche quelli che riconoscevamo come nostri simili. figuriamoci gli animali. 

 Più che strana, un pò provocatoria… E di fatto mi sembra l’abbia colta perfettamente quando estendi il discorso ai nostri simili… Purtroppo il “riconoscevamo” è ancora un triste “riconosciamo” (prostituzione, caporalati vari, dipendenze)...  

Per me questo è un concetto acquisito, quello che è da capire è: 
Nel momento in cui  siamo noi a creare coscienze (carne o silicio poco cambia), poi in che grado ne siamo responsabili?Se e quando questo accadrà, credo che avverrà in maniera piuttosto drammatica e conflittuale, molto simile a blade runner o ad Ex machina. 
Creeremo dei soggetti che in un primo momento saranno trattati da schiavi e in un secondo momento si ribelleranno. 
Nella storia questo processo l'abbiamo tristemente gia vissuto.

 Ora, invece, colgo bene la tua di domanda… Solo che non sono abbastanza tecnologico da potermela prefigurare come una possibilità concreta. Almeno spero! 
Però riflettere sullo scenario è molto interessante.

A proposito, tornando al piano stilistico, ho letto "Do android dream of elctric sheep?" e l'ho apprezzato molto di più rispetto al romanzo di Ishiguro