Piripicchio ha scritto: Poi altra domanda che ti faccio: perchè siamo disposti a ritenere riproducibile la "ragione" e non il resto delle proprietà del cervello?

Non lo so Piripicchio, sinceramente non ho le competenze per dimostrare quello che ho detto, ovvero che non sia possibile rendere riproducibili tutte le proprietà del cervello umano. La mia è più una sensazione.
Le conoscenze, ad oggi, siamo già in grado di codificarle, archiviarle e ricercarle.

Non mi risulta invece che al momento siano state programmate IA in grado di prendere decisioni come quella del ramo deviato, sulle quali incidono anche altri fattori oltre alla ragione.
Tant'è che, come dicevamo all'inizio, questo dilemma filosofico viene studiato approfonditamente anche nell'ambito tecnico da qualche anno, proprio per tentare di capire come dovrebbe comportarsi la vettura a guida autonoma nel caso si trovasse a dover decidere in contesti analoghi.

Forse vedo la questione da un punto di vista "romantico" nei confronti dell'essere umano e ritengo che ci siano aspetti che non possano essere codificati. Sarà che forse la mia è più una speranza.
Pur avendo fatto studi di estrazione tecnica e pur lavorando in tale ambito, non riesco ad essere follemente entusiasta di ciò che stiamo realizzando con le IA, né mi sento impaurito dalla questione al momento. Mi trovo nella famosa via di mezzo.

Però ti chiedo una cosa: supponendo che, come dici te, l'uomo riuscisse davvero a costruire una IA che sia COMPLETAMENTE identica all'essere umano, replicandone ogni singolo aspetto del suo cervello, come collocheresti l'essere umano rispetto a questa IA allora? Cioè come dovrebbero convivere? Quale sarebbe il ruolo dell'essere umano nel futuro? Dammi una risposta cercando di non sconfinare nella fantascienza però!

Nel frattempo sono andato avanti con la lettura del libro e mi sono divorato anche il decimo capitolo.

"Leggere la letteratura sul problema del carrello è un po' come vedere un film di Rambo: sai già che non passerà molto tempo prima della prossima uccisione. Le minacce provengono da ogni dove: da trattori, treni e ponti che crollano, da bombe e gas nocivi. I casi hanno nomi esotici".

Questo paragrafo mi ha fatto ridere! In effetti... non ha tutti i torti!

All'inizio del capitolo parla del libro "Una teoria della giustizia" e dice che la rivendicazione più radicale del libro è che la diseguaglianza è ammissibile solo se va a beneficio dei meno avvantaggiati.

Non so come mai mi ha fatto pensare a Robin Hood. Tutti conosciamo la leggenda. Rubava (che è un'azione che ci insegnano sin da piccoli essere sbagliata) ai ricchi, per dare ai poveri. E questa cosa a noi che leggevamo delle gesta di Robin, ci piaceva assai! Perché Robin secondo noi era un eroe e non doveva essere punito come qualunque altro ladro? Perché le sue gesta erano a beneficio dei meno avvantaggiati.
Interessante scoprire come il libro abbia addirittura "ringiovanito la teoria politica incoraggiando i decisori ad allontanarsi dall'utilitarismo e dall'analisi costi/benefici" (di cui parlavamo inizialmente) "per porre attenzione ai membri più bisognosi della società".

Infine, non trovate incredibile quanto dice in merito all'ordinamento dei casi e al fatto che a seconda dell'ordine con cui vengono presentati, le persone scelgano di agire diversamente?
Addirittura agiscono diversamente se gli viene posta la domanda in prima o in terza persona... pare che neanche i filosofi abbiano ancora fornito una risposta soddisfacente. Quale processo di elaborazione attua la mente delle persone per dare risultati diversi a seconda che un problema venga presentato prima di un altro? Presi singolarmente sono i soliti due problemi (ramo deviato e uomo grasso). Questa cosa è allucinante

Ho appena iniziato a leggere questo saggio, in ritardo rispetto a quando avrei voluto iniziare ma il lavoro mi sta rubando ogni energia.
Comunque... scioccatissima per la storia dei bombardamenti e Churchill , cioè da un lato capisco il suo agire ma dall'altro lato...
Intuisco che questo saggio mi farà provare sentimenti opposti nello stesso momento (tipo i pazzi, grazie Guido perché finalmente ho la scusa del "non sono io, è colpa del libro!" )

Premetto che non ho letto nessun post precedente, proprio per non farmi influenzare. Li leggero' a libro finito. Ora sono arrivato a meta' e la parte comincia a farsi interessante ma anche pesante, riportando esempi di fatti realmente accaduti, che mi hanno colpito notevolmente. Vedremo piu' avanti ...

guidoxc84 ha scritto: Forse vedo la questione da un punto di vista "romantico" nei confronti dell'essere umano e ritengo che ci siano aspetti che non possano essere codificati. Sarà che forse la mia è più una speranza.
Pur avendo fatto studi di estrazione tecnica e pur lavorando in tale ambito, non riesco ad essere follemente entusiasta di ciò che stiamo realizzando con le IA, né mi sento impaurito dalla questione al momento. Mi trovo nella famosa via di mezzo.

Perfettamente in linea con te Guido. Anch'io rientro nel club dei "romantici" appassionati di scienza, progresso e, in modica quantità, di tecnologia. Forse sarà perche sono cresciuto con la saga di "Terminator" e tifando per i Connor.

A seguire alcuni passaggi del capitolo 10 con commento al seguito.

Mill aveva un principio di libertà: dobbiamo essere liberi di fare tutto ciò che non provoca un danno ad altri.


Parto con questa massima di Mill che può essere un bel faretto con cui illuminare tutti i ragionamenti e le riflessioni che si vogliano comunque fare. Una gran bella apparente contraddizione se si pensa che è un limite a renderci liberi.

Siamo in una posizione di equilibrio riflessivo, ha detto Rawls, quando il nostro insieme di credenze relative ai principi e le nostre credenze sui singoli casi hanno raggiunto una sorta di coerenza.


Mi trovo molto d'accordo con quanto proposto da Rawls. Forse ciò che mi fa continuare a tifare per l'umanità è che continua ad ispirarmi più fiducia nelle situazioni impreviste, nei cosiddetti casi di bug. E' quella capacità creativa di far fronte a quella milionesima variazione + 1 di una determinata situazione che per mille volte, magari, si è presentata sempre uguale a distinguerci come Homo Sapiens.

Infatti il libro esemplifica...

Nel mondo reale, soprattutto, non ci sarebbe alcuna certezza. Se ho spinto l’uomo grasso potrei essere processato per omicidio. Forse mi preoccuperei che una telecamera a circuito chiuso possa registrare ogni mia mossa. Non posso essere sicuro di essere fisicamente abbastanza forte da spingere l’uomo grasso giù dal ponte (se cercassi di spingerlo non ci sarebbe il pericolo che reagisca e getti invece me dal ponte?). Non potrei essere sicuro che la massa dell’uomo grasso fermi il carrello ferroviario. Non potrei essere sicuro che senza il mio intervento il carrello continui a correre avanti e schiacci i cinque. Potrebbero riuscire a tagliare le corde e fuggire. Il guidatore potrebbe riprendere il controllo del treno. E non potrei trovare un altro oggetto ingombrante altrettanto efficace del corpo dell’uomo grasso per fermare il carrello ferroviario?


E chi più ne ha, più ne metta.

Difficile dunque ridurre esclusivamente al caso generale. Viene a mancare quella che si chiama validità ecologica, cioè:

quel particolare tipo di validità esterna che si riferisce alla corrispondenza tra le condizioni dell'esperimento, o della verifica empirica, e la realtà cui si fa riferimento e alla quale i risultati ottenuti dovrebbero essere estesi. (Wikipedia)

E nonostante ciò, il capitolo si chiude con mio gran piacere, cosi:

In qualunque forma si presenti il problema, la maggioranza pensa ancora che sia giusto deviare il treno nel Ramo deviato, e sbagliato uccidere l’uomo grasso. E questo divario, con solo lievi variazioni, esiste tra tutti i gruppi di persone, in tutte le culture. Ciò ha portato a una nuova ipotesi. I problemi del carrello possono indicare che la moralità umana è innata e che, per esempio, la Dottrina del duplice effetto, esposta per la prima volta quasi mille anni fa da san Tommaso d’Aquino, è cablata in noi.

Forse quindi, se ho capito bene, non sono molto più ignavo della media dei miei fratelli umani e le differenze culturali sono importanti, ma fino a un certo punto. Forse, me lo auguro, davvero abbiamo una coscienza che è sempre stata e sempre sarà parte di noi e che, per quanto ci si sforzi, non può essere elusa.

Mattia P. ha scritto: In qualunque forma si presenti il problema, la maggioranza pensa ancora che sia giusto deviare il treno nel Ramo deviato, e sbagliato uccidere l’uomo grasso. E questo divario, con solo lievi variazioni, esiste tra tutti i gruppi di persone, in tutte le culture. Ciò ha portato a una nuova ipotesi. I problemi del carrello possono indicare che la moralità umana è innata e che, per esempio, la Dottrina del duplice effetto, esposta per la prima volta quasi mille anni fa da san Tommaso d’Aquino, è cablata in noi.[/i]

Forse quindi, se ho capito bene, non sono molto più ignavo della media dei miei fratelli umani e le differenze culturali sono importanti, ma fino a un certo punto. Forse, me lo auguro, davvero abbiamo una coscienza che è sempre stata e sempre sarà parte di noi e che, per quanto ci si sforzi, non può essere elusa.

Nel capitolo 13 si cerca di dare una risposta evolutiva a questi fatti, vi riporto il testo.

Greene ha una spiegazione evolutiva convincente, seppur speculativa, della distinzione morale che le persone tracciano inconsciamente tra il coinvolgimento muscolare e il girare un interruttore [o tra girare una leva e spingere un uomo]. Abbiamo una particolare repulsione per i danni che potrebbero essere inflitti quando siamo nell'ambiente del nostro adattamento evolutivo. Ci siamo evoluti in ambienti in cui abbiamo interagito direttamente con altri esseri umani, e la forza doveva venire dai propri muscoli. Utilizzare i muscoli per spingere un'altra persona è un segnale che c'è in gioco la violenza e, per evidenti motivi, in genere è meglio evitare la violenza.

Ma perché ci prendiamo cura di chi è vicino a noi e di chi è lontano no? (tipo tramite beneficenza) Forse questo spiega anche la questione che si era posto Guido sul fatto di essere più interessati quando disgrazie capitano in paesi per i quali abbiamo un interesse personale (es. che abbiamo visitato/di cui conosciamo la cultura).

Il cervello umano si è evoluto quando gli esseri umani erano cacciatori-raccoglitori e vivevano in piccoli gruppi di 100-150 persone. Era di beneficio in termini evolutivi prendersi cura dei propri figli e dei pochi altri con i quali si collaborava.
Non volevamo né avevamo bisogno di sapere ciò che stava accadendo sul lato opposto della montagna, della valle o del lago.

Inoltre si dice anche siamo portati ad avere più considerazione per persone che riusciamo a identificare (es. se sappiamo chi saranno i beneficiari della beneficenza, o se vediamo in faccia le persone da salvare/sacrificare)

Quindi attenzione al benessere del proprio gruppo sociale ed evitamento della violenza fisica se possibile, alla base di valori morali condivisi in tutto il mondo. Tutto questo in un mondo globalizzato in cui la tecnologia ci porta a doverci preoccupare anche di persone lontane e che non conosciamo, una questione difficile da affrontare per il nostro cervello.

Ragazzi, il capitolo 11, che conclude la seconda parte del libro, è da standing ovation secondo me!

Domani spero di avere un attimo per venire qui a parlarne con voi (nel caso peggiore lo farò mercoledì).

Nelle ultime pagine del capitolo riassume parte di quello che ci siamo detti in questi ultimi post facendo addirittura un’osservazione: le macchine, TEORICAMENTE, potrebbero prendere decisioni migliori dell’uomo perché, dice Edmonds, le decisioni delle macchine non dipenderebbero da eventuali scariche di adrenalina (quindi mi pare di capire che lui ritenga come me che l’aspetto emotivo conti e che la macchina potrebbe essere programmata per esserne avulsa, così da prendere decisioni più razionali).

Però il succo della questione è sempre il solito:

L’unica cosa (!) su cui i programmatori devono mettersi d’accordo è quali siano le regole morali... con cui programmare le macchine!

Mattia P:
Ciò ha portato a una nuova ipotesi. I problemi del carrello possono indicare che la moralità umana è innata e che, per esempio, la Dottrina del duplice effetto, esposta per la prima volta quasi mille anni fa da san Tommaso d’Aquino, è cablata in noi.

Per quello che ho capito io la moralità non è innata, come non è innata la lingua.
Sono innate le predisposizioni ad entrambe. Questa è una differenza fondamentale secondo me.
Chomsky nei suoi studi se non ricordo male riporta esempi di persone che, in uno stato totale di isolamento, sono sopravvissute senza mai imparare una lingua (bambini lupo, feral kids...non ricordo i termini precisi). Se non sbaglio passato un periodo in cui il cervello è predisposto all'acquisizione di un linguaggio diventa praticamente impossibile impararne una. Questi bambini di fatto non avevano e non impararono mai a parlare. Ricordo di aver letto a scuola di come i bambini lupo, nonostante l'aspetto non avessero praticamente nulla di umano.
Ora questo sembrerebbe dimostrare come la nostra predisposizione alla lingua abbia la forma di archivio vuoto, con dentro un archivista dormiente, se non c'è all'esterno un incredibile sforzo collettivo volto alla preparazione dell'archivio è sicuro che l'archivista non si sveglierà mai.

Questo per dire che se è vero che un bambino messo in mezzo alla savana in condizioni favorevoli, prima o poi compatibilmente con l'ambiente che lo circonda, assumerà la posizione eretta crescendo di dimensione, lo stesso non possiamo dire per il linguaggio.

Ora siamo tutti d'accordo che l'etica sia un sottinsieme della lingua. Non esiste un sistema etico che non sia linguistico. La distinzione "giusto/sbagliato" sono dispositivi linguistici.

(Lo so che sembro un disco rotto...)

Quindi sillogisticamente mi verrebbe da dire che se in assenza di stimoli non si sviluppi una lingua
di conseguenza nessuna morale,
di conseguenza niente di innato.
neanche il concetto di Tommaso D'aquino della DDE...
Se non altro sarebbe stato d'accordo con noi se gli avessimo detto che "in principio era il verbo...."

Sono d'accordo con Margarethe, in generale, l'idea di uccidere il meno possibile ha un fondamento adattivo importante...soprattutto nelle specie non umane.
Nel regno animale le esecuzioni sono piuttosto rare e circoscritte.
Tra gli uomini direi che la pratica di sacrificare milioni di persone per un concetto, una idea, è stata sempre piuttosto diffusa. E anche la stabilità dei piccoli "branchi" di uomini può essere molto complicata.
Quindi nonostante tutto (e io non credo) se fosse come dici tu la DDE, cablata dentro di noi, io personalmente la vedo cablata piuttosto male.

anzi direi che la moda dilagante di appellarsi all'empatia sia del tutto fuori scala rispetto alla facilità con cui viene bypassata da altri aspetti.

Appena ho un secondo rispondo alla domanda di guido!

Buonanotte!

Piripicchio ha scritto: Ora siamo tutti d'accordo che l'etica sia un sottinsieme della lingua. Non esiste un sistema etico che non sia linguistico. La distinzione "giusto/sbagliato" sono dispositivi linguistici.

Sono d'accordo con quasi tutto ciò che hai scritto, tranne che con questo (e col fatto che dopo una certa età non è più possibile imparare... Si impara si impara... ci vuole più tempo ma si impara).

Premetto che non sono competente sulle IA , ho letto con il club Io robot di Asimov e ricordo ,nonostante i miei scarsi interessi per l'argomento, che l' autore lanciava questo messaggio: i robot saranno utili all'uomo ma non lo sostituiranno..
Ho seguito i vostri commenti e mi ritrovo d' accordo con Guido e anche Mascheroni che con un eloquio molto chiaro spiega cos'è la virtù ossia il bene di un'azione, di una decisione facendo l'esempio della mamma con la torta ed io come mamma e nonna darei una fetta un po' più grande al bimbo triste ma le variabili sono tante, io non sono sicuramente uguale soprattutto per quanto riguarda la sfera interiore, emotiva a mille altre mamme tutte anche loro diverse le une dalle altre...per il momento mi sembra impossibile che vengano programmati dei robot che possano addirittura fare scelte etiche anche se ho letto qualcosa come afferma Margareth che le IA potrebbero sfuggire al controllo di chi le ha create. Mi è venuto in mente come in un robot si possa programmare l' aspetto religioso , lo si potrà creare cattolico, protestante, musulmano secondo la cultura e le tradizioni del territorio ma sinceramente non riesco ad immaginarmi altro così come quello capace di scegliere fra bene e male considerando che quello che per me può essere buono per un altro è male...sono troppe le variabili in gioco...tutto dipenderà dalla bravura del programmatore?
Ieri ho finito di leggere il saggio che mi è sembrato abbastanza impegnativo , fa un excursus sulla filosofia morale riportando esempi problematici che rendono difficoltose certe scelte che non hanno, così come sono presentate , nessun riscontro nella vita reale. Le situazioni sono surreali e paradossali :perché degli uomini sono legati a dei binari? E la mole di un uomo obeso senza identità che dovrebbe essere ucciso per fermare un carrello ferroviario impazzito che si sta dirigendo verso 5 uomini legati su un binario?
Per risolvere il dilemma se sia giusto o sbagliato sacrificare una vita per salvarne 5 si ricorre alla dottrina del duplice effetto di San Tommaso, alla morale kantiana, a Bentham e molti altri ..e negli ultimi capitoli si precisa che la scelta di uccidere o meno l'uomo grasso per salvare 5 vite è determinata da tantissimi fattori soggettivi , i valori di ormoni e tossine quali ossitocina, adrenalina, serotonina e testosterone, patologie che riguardano le emozioni come negli psicopatici sono determinanti per un verdetto o per l'altro.
Le posizioni antitetiche prevalenti che forse ho capito meglio mi sono sembrate quella di Bentham che pondera il rapporto tra danni e guadagni, costi e benefici per cui 5 vite sono più di 1 e la risposta sul da farsi diventa ovvia.
L'altra che dall' inizio della lettura ho per istinto, razionalità, emotività condiviso è quella kantiana secondo la quale le persone non devono mai essere trattate come un mezzo per raggiungere un qualche fine. Praticamente devo agire in conformità alla mia coscienza ed in modo che gli altri approvino la mia azione perché anche loro in quella situazione si sarebbero comportati analogamente. Kant non avrebbe ucciso l' uomo grasso ed io avrei fatto lo stesso....
Alla fine l' autore ci fa sapere come agirebbe , basta terminare la lettura per scoprirlo.
Apprezzabili le tre filosofe indipendentemente dalle loro convinzioni ma legate da amicizia.
Nel saggio si cerca a pare mio di dare una legittimazione etica a situazioni complesse che si vengono a creare ad esempio nelle guerre per cui si deve ricorrere al male minore e fare un compromesso fra utilitarismo e moralità.



Inviato dal mio SM-J510FN utilizzando Tapatalk

Piripicchio ha scritto: Per quello che ho capito io la moralità non è innata, come non è innata la lingua.

Diciamo che la mia voleva essere più una speranza che un'affermazione.

Ho comunque provato a fare una piccola ricerca su Google Scholar e col poco tempo a disposizione ho trovato un capitolo dal titolo "Is morality innate?" di Richard Joyce.

Effettivamente mi è sembrato di capire che Joyce definisca la moralità come la capacità di "giudizio morale" e ponga sotto la lente questa particolare definizione di moralità. In sostanza ciò che per lui sarebbe innata (ma ho bisogno di leggere più a fondo il capitolo per capire come arriva a le sue conclusioni) è la capacità di riflettere su problemi di tipo etico. Quindi una capacità che, come tu hai giustamente fatto notare, è strettamente legata al linguaggio.

Mi piace pensare che così come è presente un'innata predisposizione all'acquisizione del linguaggio (cosa ormai abbastanza supportata dalla letteratura scientifica) possa esserci anche una predisposizione alla moralità. La speranza è che tale predisposizione abbia, come anche evidenziato da Margarthe, un valore adattivo che ci porti, in ultima istanza, a preservare la vita umana.