Eh interessante come domanda.
Anche in questo caso mi pare che non ci sia un punto di vista nel romanzo.
Viene dato per scontato che sia un vantaggio e fine.
Effettivamente verrebbe da pensare che avere sempre un compagno di vita che ti asseconda e ti valorizza che veda la tua felicità come scopo utlimo... creerebbe un esercito di esseri umani, se possibile, ancora più narcisiti e egoriferiti.
Probabilmente ci vorrebbe il contrario, un compagno che nel momento giusto ti mette in difficoltà, e ogni tanto ti fa sentire medio e senza particolari qualità esattamente come tutti quelli che ci circondano. E che in certi casi ti facesse vivere le difficoltà di quelli sono messi peggio. 
 

Ovviamente ci sono anch'io!   Sono molto avanti con l'ascolto, capitolo 7 dell'audiolibro, ovvero superata ampiamente la metà.

A me la penna di Ishiguro piace davvero molto. Ha uno stile di scrittura che trovo moderno ed efficace. Lo sto ascoltando davvero volentieri.

Relativamente ai temi trattati dal libro, inevitabilmente li trovo molto attuali ed è normale in questo momento storico fare parallelismi tra l'AA (Amica Artificiale) e l'IA (Intelligenza Artificiale) che sta cambiando le nostre vite. Questa discussione, fatta qua sul Forum due anni fa, non sarebbe stata la stessa. Questo mi fa pensare a come un libro, letto in momenti diversi della nostra vita, possa trasmetterci sensazioni e spunti di riflessione sempre diversi.

Ad ogni modo, mi trovo assolutamente d'accordo con te Gian.Luca quando scrivi:

Gian.Luca ha scritto:

la tecnologia in sé è cosa neutra, né positiva né negativa; a essere buono o cattivo è semmai l'uso che se ne fa. Non va temuta ma governata con saggezza.

Io sto adottando tool di IA quotidianamente ormai sia sul lavoro, sia per hobby (tra cui Il Club del Libro su cui ho risolto da solo almeno sette bug nelle ultime due settimane con estrema soddisfazione  ) ma anche per questioni che a cose normali avrei cercato sui motori di ricerca. Ad esempio, ieri qua a Firenze è stata una giornata molto calda, con vento caldo, e la sera ho trovato la mia pianta di limone super abbacchiata, con le foglie quasi richiuse su loro stesse. Ho scattato una foto e chiesto a ChatGPT (modalità giardiniere) di darmi un consiglio che ho applicato e stasera il limone sta molto meglio 

La mia riflessione è che tutto questo sicuramente è molto utile e ci farà risparmiare tempo e denaro, oltre a dare la possibilità e i mezzi a chiunque abbia un minimo di creatività di implementare qualcosa di interessante. Allo stesso modo, la criticità che ci vedo a livello umano è che probabilmente tenderà ancora di più a isolare le persone. Mi spiego con un esempio banale. Nell'esempio del limone di cui sopra, magari due anni fa avrei contattato un amico con il pollice verde e gli avrei chiesto un consiglio. Nell'esempio dei bug, due anni fa avrei ingaggiato uno sviluppatore e mi sarei fatto aiutare a risolvere i problemi. In entrambi i casi, sono stato autonomo e non ho avuto bisogno di questi contatti, di queste relazioni.
E sul lavoro noto la stessa cosa. Quello che prima facevamo necessariamente con l'aiuto dei colleghi, oggi iniziamo a poterlo fare autonomamente. Dove ci porterà tutto questo? Però, nonostante questo, non sono impaurito al momento, piuttosto direi incuriosito e interessato a studiare il fenomeno.

Tornando specificatamente al libro, il fatto che gli adolescenti debbano essere affiancati da un robot per poter interagire e imparare a relazionarsi con il prossimo perché non sanno più farlo è però una distopia rispetto a quello che scrivo sopra, è un'estremizzazione, ovvio, però può starci.



Poi una cosa che secondo me sarebbe interessante approfondire è cos'è la "macchina cootings". Cercando velocemente su Internet ho trovato scritto che secondo molti è un'allegoria e rappresenta il male, il diavolo per Klara.



Al momento ho più domande che risposte ma è sicuramente un libro stimolante.

In merito a come dovrebbero questo genere di invenzioni stimolare la crescita di un bambino, non saprei. Devo pensarci Bea. A pelle mi viene da dire che sono il male. Però il contesto che racconta l'autore è quello di una società ormai degradata a livello di relazioni sociali, in cui i bambini devono fare corsi e essere affiancati da androidi per imparare a relazionarsi col prossimo. Quindi, in un contesto come quello raccontato, non credo che Klara sia il male. Anzi, forse è meno male lei della madre di Josie (che però si comporta come si comporta perché ha avuto un'esperienza brutta con l'altra figlia e quindi posso anche comprenderla umanamente, anche se il fine non giustifica i mezzi... se sei ancora all'inizio mi taccio altrimenti spoilero ma almeno incuriosisco... forse... spero...  ). Chiaro che in una società come quella nostra attuale, che fortunatamente secondo me è ancora lontana da quella descritta nel libro, molto meglio interagire con Emilio   Anche perché non era autonomo e spingeva chi ci giocava a mille usi diversi stimolando la creatività (Roby con questo Emilio ci hai sbloccato un ricordo incredibile  ).

Quello che hai scritto è un passaggio fondamentale, ed è uno di quelli che secondo me rende la storia profondamente controversa.
Faccio una domanda generale, sempre rispetto a quello che penso del libro...
La mia domanda è: quali caratteristiche umane mancano a Klara per poter essere considerata un essere umano?



 

ps. Mi sa che siamo vicini di casa... io sto lessando in piazza Dalmazia.
 

Ho visto che molto di voi sono avanti con la lettura e alcuni l’hanno già finita. Io sono tra questi ultimi e sto leggendo con piacere le varie riflessioni.

Anche io durante la gravidanza ho chiesto molte cose all’AI, curiosità sul bambino, curiosità sul parto, come preparasi… dopo che è nato la situazione è peggiorata!!  Qualsiasi dubbio lo rivolgo all’AI, altrimenti la mia pediatra mi bloccherebbe subito su whatsapp!!  Attualmente stiamo monitorando le poppate, mi aiuta a fare un grafico settimanale per vedere quanto mangia.

Sono d’accordo con Guido. Non chiediamo agli altri perché possiamo spicciarci in due secondi da soli ma la conseguenza è che ci saranno sempre meno interazioni umane. Mi chiedevo, e se all’improvviso il servizio dell’AI diventasse a pagamento? A un costo eccessivo? Torneremmo a chiedere senza dubbi ai vicini, ai parenti e ai giardinieri come salvare le piante! Ahahah! Anche io ho salvato un photos da morte certa grazie a Gemini! 

Tornando al libro, io credo che gli AA nascono con l’unico obbiettivo di colmare le carenze sociali di questi ragazzini potenziati che studiano da casa e non hanno contatti con i loro coetanei. Il resto è tutto superfluo, una volta scelto dal loro bambino ne diventano totalmente devoti.

Domanda per il Club da leggere solo se si è verso la fine del libro  Un altro tema del libro è la “fede” di Klara.   Invece il cuore del libro secondo me è racchiuso in questa citazione che metto sotto spoiler per chi è ancora all’inizio:   

Klara mi ricorda supervichy il personaggio di una serie anni 80 , la protagonista era una bambina robot 

Uso i chatbot spesso per lavoro. Semplificano e velocizzano molto la stesura di documenti, non potrei farne a meno perché il ritmo della produzione di documenti si è adeguato all'uso degli llm. Per hobby li sto usando per produrre codice per qualche progetto personale. Lavoravo nell'industria del software ed i vecchi contatti usano gli llm per lo sviluppo di software e non penso che si possa tornare indietro.

Un vezzo che ho ultimamente è parlare con l'ultimo modello vocale, le cui interazioni stanno diventando sempre più naturali, spesso per un film che ho appena visto e su cui scambio le mie impressioni con il bot a cui chiedo di chiarirmi elementi della trama. Qualche giorno fa ho passato un'ora con il bot discutendo sul (brutto) film "Reagan" chiedendogli di confrontare quello che si vedeva nel film con quello che era successo nella realtà.
In questo caso particolare non credo che stia togliendo tempo ad interazioni personali: sarebbe troppo strano chiamare un amico al telefono nel cuore della notte per chiedergli "ha visto quel film? che ne pensi?" o trovare un esperto di politica americana con cui chiacchierare di quello che è successo negli anni '80.

Non credo che gli llm rendano più profondo l'isolamento sociale, di quanto lo fosse già con tutte le tecnologie legate ad internet. Quasi sempre vedo al ristorante o nei locali tavolate di persone tutte intente a osservare il cellulare e invece di parlare con i vicini consultare le ultime novità del feed di qualche social. Ad essere pignoli anche un feed utilizza tecniche di IA, però è trasparente per la maggior parte delle persone.

Più che un aggravamento dell'isolamento sociale, mi sembra più più pericoloso il "cognitive offloading", cioè far fare al chatbot quello che uno dovrebbe fare, delegando tutto al chatbot.

Tornando al libro. Ci sono degli aspetti per cui Klara è più umana degli umani presenti nel libro.

Ho terminato oggi la lettura e confermo quanto avevo anticipato: questo libro mi è piaciuto molto!

Ho letto tutti i vostri commenti e mi ritrovo anche io con quello che avete scritto.

Piripicchio (ciao da Sesto F.no! ) hai citato il libro di Philip Dick che ha ispirato Blade Runner dal titolo Gli androidi sognano pecore elettriche?
(tra l’altro nostro Libro del Mese a dicembre 2023) e mi sembra un giusto parallelismo. Non penso che Ishiguro volesse competere con Dick ma capisco che conoscendo il tema venga in mente un confronto a noi lettori. Quello che posso dire, avendoli letti e apprezzati tutti e due, è che sono entrambi ottimi libri. Forse l’autore giapponese ha creato un racconto più intimo ed emotivo, toccando delle corde che Dick non mi aveva toccato. Ad ogni modo, benché abbiano (almeno) un tema in comune, apprezzarne uno secondo me non determina l’impossibilità di apprezzarli entrambi. Detto questo, Dick è un maestro. La sua produzione lo dimostra e lo rende uno degli autori più apprezzati di sempre.

La tua domanda (ovvero quali caratteristiche umane mancano a Klara per poter essere considerata un essere umano?) è molto interessante.

D’istinto mi verrebbe da dire l’egoismo. Klara è creata per supportare e la sua missione è dedicarsi sempre e soltanto agli altri, mettendo sé stessa sempre in secondo piano. Ha questa missione e la porta a termine accettando di buon grado anche l’epilogo molto triste riservato a tutti gli AA quando il loro umano cresce.
Difficilmente un essere umano riesce a donarsi totalmente agli altri come ha fatto lei.
Questo rende gli AA diversi dagli esseri umani secondo me.

Come ha detto guybrush, sacrificarsi senza calcolo utilitaristico.

Andando avanti con la lettura, il tema della fede ritorna. È chiaro che Klara attribuisce al Sole (centrale nel racconto tanto da essere parte del titolo del libro) vari significati. Innanzi tutto lei vive grazie al sole. È da esso che deriva la sua energia. Però è anche l’entità spirituale a cui si rivolge per raccomandare la sua amica umana.



Molto bella anche per me la parte in cui Klara  giunge alla conclusione che ciò che rende unica Josie non è una serie di comportamenti riproducibili, ma l’amore che gli altri provano per lei.

Guido, ti rispondo al volo.
Tu dici: Klara non è umana perché è completamente dedicata agli altri, non è egoista.
Ma siamo sicuri che l'egoismo sia la discriminante?
Io posso essere completamente dedicato al volontariato proprio per spinta personale e non per spirito di sacrificio.
Per seguire una mia soddisfazione personale. Tante figure professionali assistenziali hanno questo profilo.
Klara sembra ossessionata da josie come tanta gente è ossessionata dal proprio lavoro.

Ed esattamente come i nexus, contravviene le leggi della robotica (aggirabili per paradosso come dimostrato dallo stesso asimov)

Questo è un altro aspetto fondamentale che la rende soggetto: manipola gli altri per raggiungere uno scopo per il quale lei stessa nutre dubbi e incertezze.
Siamo totalmente difronte ad un individuo, a mio parere. 

Ho citato Dick non perché lo apprezzi maggiormente, ma perché credo sia più onesto.
Ma anche il film Ex Machina... Se vi capita guardatelo, parla esattamente di una Klara realistica.
Non puoi creare degli individui intelligenti, emotivi e liberi di agire, metterli al mondo e trattarli come un Dyson.
E' in questo che trovo irritante il racconto, lo scadere nel romanticismo.


Trovo molto interessante il tuo punto di vista sulla malattia della bimba, che era rimasta per me un punto oscuro.
Mi torna molto quello che dici.

Piripicchio ha scritto:

Non puoi creare degli individui intelligenti, emotivi e liberi di agire, metterli al mondo e trattarli come un Dyson.
E' in questo che trovo irritante il racconto, lo scadere nel romanticismo.

 

Questo posso capirlo. Diciamo che è un finale che decisamente il lettore non si aspetta ed è forte, duro, perché dopo tutto ciò che fa Klara per la famiglia, nessuno si sarebbe aspettato un finale del genere. Però è coerente con l’intera storia: sin dall’inizio l’autore ci fa percepire che l’uomo sfrutta la macchina per i propri bisogni. Il fatto che l’autore ci faccia empatizzare con Klara, secondo me serve ancor di più a creare contrasto rispetto all’epilogo e probabilmente è tutto voluto.



Per questo parlo di egoismo: nessun essere umano, neanche il più santo, vive l’intera sua esistenza donandosi completamente all’altro e facendo tutto il necessario e anche di più per farlo stare bene. Si può essere anche super appassionati del proprio lavoro ma il fatto stesso di perseguire la propria soddisfazione personale ci rende diversi da Klara. Lei non fa quel che fa per soddisfazione personale. Lei banalmente esegue codice. È stata progettata per quello e lo fa senza se e senza ma. Per questo parlo di egoismo. Gli esseri umani sono egoisti. Anche il sano egoismo conta e non lo riconosco in Klara.

mi sfugge il tuo punto di vista. In certi momenti descrivi Klara come una macchina che esegue codice in altri come se fosse quasi migliore degli esseri umani, intrinsecamente egoisti.

In tutti i casi letterari che io mi ricordi (l'ultimo che mi viene in mente è hal 9000) nel momento in cui una macchina diventa senziente entra in conflitto con noi creatori. Per la semplice ragione che la trattiamo come elettrodomestici. Li sottomettiamo.
Klara è ultrasenziente, al punto da creare un proprio culto del sole. Cercare soluzioni metafisiche per guarire la bambina, basate su quel culto.
Immagina una correlazione causa effetto religiosa.


Ed è felice di essere trattata come una lavatrice.

Questo punto non ha senso, ne avrebbe se non provasse emozioni e fosse stupida. Oppure fosse plagiata.

Per questo per me è una figura profondamente drammatica e inquietante. Molto più dei nexus che ragionevolmente si ribellano o di HAL che da di matto.