Blache_Francesca ha scritto:

Ho iniziato da poco il libro e ho letto i primi due racconti, secondo me, bellissimi.
@margarethe: a che punto sei?
Ti piace?

Ciao, ho finito il primo e iniziato il secondo, ho letto anche i commenti precedenti. Mi stanno piacendo molto sia lo stile di scrittura sia le parti più tecniche, mi danno una certa soddisfazione causata da deformazione professionale
Per ora Asimov sembra volerci dire che ci possiamo fidare dei robot, che sono utili per l'essere umano, anche se sono limitati dall'hardware e da come sono stati programmati. Sinceramente trovo un po' vecchio il concetto della paura verso il robot umanoide, perché in passato si pensava che questi sarebbero stati il futuro, mentre ora vediamo la tecnologia prendere una strada diversa e molto più inquietante e impercettibile. Ho visto qualche giorno fa il documentario "A social dilemma", che parla dell'intelligenza artificiale usata nei social media e messa a servizio del mero guadagno, e di come plasmi continuamente la nostra percezione della realtà. Sostanzialmente non abbiamo un oggetto fisico e ben distinguibile da temere, ma una tecnologia di cui a stento ci rendiamo conto dell'esistenza e del funzionamento.
Inoltre siamo sempre più degli androidi noi stessi, se pensiamo al fatto che il telefono è ormai un'estensione del nostro corpo e che sarebbe molto difficile vivere senza.
Durante una conferenza qualche anno fa è stato posto questo quesito: se l'intelligenza artificiale è creata per funzionare come un cervello umano, per ricalcare gli stessi processi cognitivi, per imparare dalle esperienze, quand'è che questa arriva ad essere considerata umana? Non so se il libro ci spingerà a riflettere su questi temi, vedremo
Col senno di poi rispetto all'epoca di Asimov stiamo imparando che più che la tecnologia in sé, dovremmo temere coloro dei quali è al servizio e lo scopo per cui la utilizzano

Ti ringrazio per questo tuo articolatissimo e interessantissimo post.
Il primo racconto è così tenero: Asimov crea una bella relazione tra un robot e una bambina. Interessanti i due schieramenti che si vengono a formare tra la madre insieme ai vicini e il papà: un robot può provare fedeltà, gentilezza e affetto. Bellissimo !

Blache_Francesca ha scritto:

Ti ringrazio per questo tuo articolatissimo e interessantissimo post.
Il primo racconto è così tenero: Asimov crea una bella relazione tra un robot e una bambina. Interessanti i due schieramenti che si vengono a formare tra la madre insieme ai vicini e il papà: un robot può provare fedeltà, gentilezza e affetto. Bellissimo !

Sì anch'io lo trovo tenero, non credo che possa essere dannoso per la bambina cioè se lui agisce come un essere vivente e le dimostra amore, perché dovrebbe essere dannoso? È comunque un tema un po' controverso: è sbagliato farle provare affetto per un essere inanimato? Secondo me dipende tanto dalla credenza di una persona in merito all'anima o la coscienza. C'è il film "her", che non ho mai visto, in cui il protagonista si innamora del sistema operativo del duo computer, che ha una voce femminile!

C'è il film "her", che non ho mai visto, in cui il protagonista si innamora del sistema operativo del duo computer, che ha una voce femminile!

Anch'io ne ho sentito parlare ma non l'ho mai visto.
Ciò che mi piace di questo libro, proseguendo la lettura, e che con Asimov, si va sempre oltre e si supera il limite. Ma mi fermo qua, perché preferisco commentarlo con calma e insieme a te.

Blache_Francesca ha scritto:

Ciò che mi piace di questo libro, proseguendo la lettura, e che con Asimov, si va sempre oltre e si supera il limite. Ma mi fermo qua, perché preferisco commentarlo con calma e insieme a te.

cioè? Io ho finito il secondo racconto e iniziato il terzo, sono nello spazio con i due (Donovan e boh) ed è in corso una conversazione interessante, in cui il robot non vuole credere all'ipotesi della sua creazione così com'è. Dice che non è possibile che esseri inferiori a lui l'abbiano creato.. Ora rispettando tutti i credo, vedo un parallelismo tra chi di fronte alla "perfezione" dell'essere umano, del mondo ecc, non può credere che sia solo un caso la nostra esistenza, ma che ci deve aver creato un essere superiore. Non può essere che siamo stati dei miseri procarioti, senza che ci sia un disegno dietro. Insomma, ci vedo il conflitto tra una visione scientifica e una religiosa. E tu?

Per il resto mi diverte il fatto che sì, le leggi, i protocolli, però quella è tutta teoria, nella pratica è un casino con 'sti robot xD un po' come tutte le cose tecnologiche
e se sono imperfetti è perché dietro c'è il ragionamento di un essere umano.

È comunque un tema un po' controverso: è sbagliato farle provare affetto per un essere inanimato?

Ciao! Provo a rispondere a questa domanda: credo -opinione molto personale- che Asimov ci ponga anche davanti a questo quesito: è veramente inanimato ciò che a noi sembra inanimato? Penso che dipenda dal nostro personale livello di percezione della realtà o irrealtà.
Con Asimov, la tensione sale: chi ha ragione? Il creatore del robot o lo stesso robot? Può una "macchina" -che "vive" in questo libro- ribellarsi?
Trovo che i suoi personaggi-robot siano molto belli, mentre tra gli umani, ammiro Susan Collins che dimostra un grande autocontrollo.
Buon proseguimento di lettura !

Blache_Francesca ha scritto:

credo -opinione molto personale- che Asimov ci ponga anche davanti a questo quesito: è veramente inanimato ciò che a noi sembra inanimato? Penso che dipenda dal nostro personale livello di percezione della realtà o irrealtà.
Con Asimov, la tensione sale: chi ha ragione? Il creatore del robot o lo stesso robot? Può una "macchina" -che "vive" in questo libro- ribellarsi?

è quello a cui avevo pensato anch'io! Dov'è il limite tra animato e non animato, vivente e non vivente? Il robottino, solo ragionando dice: "io penso e quindi sono". Loro lo prendono in giro perché questa frase la conoscono bene

è quello a cui avevo pensato anch'io! Dov'è il limite tra animato e non animato, vivente e non vivente? Il robottino, solo ragionando dice: "io penso e quindi sono". Loro lo prendono in giro perché questa frase la conoscono bene

Esatto, Margarethe e quando l'ho letto, mi sono fatta una bella risata! Agghiacciante il suo punto di vista, peraltro difendibilissimo!
E la risposta (altrettanto divertente): "Giove santo!: Un robot Cartesio!"
Racconti fluidi e a rigor di logica!

mindmatters.ai/2020/07/could-super-artif...in-some-sense-alive/

In questo articolo ci si chiede: quando l'intelligenza artificiale diventa intelligente quanto noi o di più, si presentano dei problemi morali? Ma veramente un organismo ne può crearne uno più intelligente? Le AI hanno dei limiti legati all'uomo che li ha creati.

Poi si domandano qual è la corretta definizione di vita, infatti ogni scienza ne ha una (pensiamo al fatto che i virus non si sa se considerarli viventi o meno perché non hanno un metabolismo). La presenza di una coscienza evidentemente non è sufficiente, perché ad esempio si ritiene che le piante non l'abbiano, eppure hanno uno scopo, che non dipende dalla volontà umana. Questo potrebbe esser un punto di svolta, in quanto le AI non hanno nessuno scopo intrinseco. Poi si chiedono se non sia la necessità di riproduzione a definire un essere vivente.

Due biologi, per superare il problema di conferire alle AI lo status di esseri viventi con dei diritti, hanno inventato una nuova definizione di vita: un organismo deve possedere un genoma che permetta la riproduzione, la selezione naturale e la mortalità individuale (evolutionnews.org/2019/05/progress-in-defining-being-alive/).

Quello che penso io è che aldilà di queste speculazioni, che possono essere interessanti dal punto di vista scientifico, nella società quello che interessa è di capire dal punto di vista morale chi può avere certi diritti, e per questo non è tanto importante la definizione di vita quanto quella di essere umano (infatti animali e piante pur avendo un genoma non godono dei diritti umani).

Per capire quanto sia attuale il tema, in questo rapporto del Parlamento Europeo (www.europarl.europa.eu/RegData/etudes/ST...U(2020)634452_EN.pdf) The ethics of artificial intelligence: Issues and initiatives (2020) si parla anche dei pericoli psicologici dell'instaurare una relazione di amicizia con un'intelligenza artificiale, legati più che altro al pericolo che avvenga manipolazione, che la mentalità di una persona possa essere cambiata da questa relazione, rendendoci più violenti, meno collaborativi, facendoci perdere la percezione della vita umana, che cambi il nostro modo di trattare gli altri.
Pensando al primo racconto dei libro qui dice: should we worry about the effect of children being rude to digital assistants such as Alexa or Siri? Does this affect how they view or treat others?

In merito ai diritti si chiedono: One way of programming AI systems is 'reinforcement learning', where improved performance is reinforced with a virtual reward. Could we consider a system to be suffering when its reward functions give it negative input? Once we consider machines as entities that can perceive, feel and act, it is no huge leap to ponder their legal status. Should they be treated like animals of comparable intelligence? Will we consider the suffering of 'feeling' machines?
La maggior parte della ricerca afferma che dovrebbero essere trattati come degli artefatti, con la responsabilità dei loro errori che ricade sul produttore, l'utilizzatore o il proprietario, e che bisognerebbe evitare di conferigli dei caratteri umani come la sofferenza. Ma se un'azione non può essere predetta perché la AI si sviluppa da sola ed è modificata anche dall'interazione con l'ambiente, è giusto che questi siano responsabili?

In merito alla possibilità che la AI prenda in controllo: As a way to address some of the threats of artificial intelligence, researchers have proposed ways to stop an AI system before it has a chance to escape outside control and cause harm. A so-called 'big red button', or 'kill switch' would enable human operators to interrupt or divert a system, while preventing the system from learning that such an intervention is a threat. However, some commentators fear that a sufficiently advanced AI machine could anticipate this move and defend itself by learning to disable its own 'kill switch'. e qui vengono proposte varie opzioni.

Naturalmente ho riportato le parti che sono coerenti con il libro, però le AI più rischiose secondo questo rapporto non sono robot umanoidi ma ad esempio quelle usate in ambito medico, le macchine che si guidano da sole, la tecnologia militare.