Molto interessante il discorso fatto da Mastroianni.

In buona sostanza mi sembra di capire che, secondo il filosofo, le macchine potranno raggiungere livelli di performance elevatissimi, ma non potranno mai agire secondo "virtu": agire per il bene; quel bene che solo una persona che ti guarda negli occhi e in una piccolissima frazione di secondo capisce tutto e decide che quella è la cosa giusta da fare.

Un esempio banale è il vigile di fronte all'utilitaria in seconda fila che richiama l'attenzione del trasgressore con dei nervosi colpi di fischietto, ma dopo pochi minuti vede arrivare una giovane donna che ha un bambino di pochi mesi in braccio, 4-5 buste della spesa in una mano che cerca di controllare come meglio può un altro bambino di 3-4 anni che trotterella spensierato vicino a lei. Il vigile la guarda negli occhi e in un attimo la sua espressione di disappunto cambia, quasi gli cadono le braccia e finisce per aiutare l'allegra comitiva nell'operazione di boarding limitando il suo intervento ad una fraterna ammonizione verbale: "signora, sta volta passi eh!"

Interessante e chiaro il video di Mastroianni , persona comunicativa che sa spiegare con parole semplici e garbo, io lo ricordo bene al nostro raduno fiorentino ed anche il suo libro acquistato in quell'occasione l' ho apprezzato molto.
Sarei curiosa , visto che lui è un filosofo, di sapere cosa ne pensa del nostro libro del mese, sicuramente saprebbe far luce su alcuni aspetti che non sono riuscita del tutto a percepire fino in fondo.


Inviato dal mio SM-J510FN utilizzando Tapatalk

guidocx84 ha scritto: Guardate stamani invece cosa mi è comparso sul feed di LinkedIn (una nostra vecchia conoscenza, Bruno Mastroianni, filosofo e social media manager, con il quale abbiamo condiviso il sabato pomeriggio al raduno di Firenze dello scorso anno, è stato intervistato in merito al tema Intelligenze Artificiali: per una governance umana. Mi sono tornati in mente i nostri discorsi in merito all'empatia, all'intelligenza emotiva, ecc. Lui parla di "virtù". Molto interessante secondo me). Ve lo condivido e vado avanti con la lettura

Questo contributo è interessante anche perchè è veramente raro che mi trovi in disaccordo con tutto quello che viene detto in un argomento.

Secondo M. con la parola "virtù" si intende l'esecuzione di competenze con una finalità etica, cioè il fare qualcosa con in mente il concetto di "bene".
Poi ci (si) confonde e sembra intendere virtuose le azioni che, nella loro esecuzione, tengono di conto di informazioni di contesto (vedi la mamma con la torta o il tizio con la moglie infreddolita...santo cielo...).

Cose che non sono la stessa cosa e che anzi possono entrare ben presto in contrasto.
Ad esempio la mamma X che al compleanno dei figli prende la torta, la divide in due parti uguali, una la da alla associazione "bambini bisognosi di affetto" l'altra la divide in quattro parti uguali...ecco dicevo, come si sta comportando? Bene o male per M.?
Per la signora X quindi il regalo più bello che possa fare ai figli è mostrargli come si condividono le risorse con chi è povero, e la depressione del piccolo luca passa in secondo piano.
La signora Y invece pensa che il bene supremo sia la felicità dei figli per cui fa torte diverse per tutti e una gigante per il piccolo luca che è triste e da oggi ha pure con problemi di insulina.

Fondamentalmente tutti i comportamenti sono mossi da motivazioni complesse e fattori multipli, come abbiamo avuto modo di leggere nel libro.
L'idea che l'essere umano abbia accesso a un tipo diverso e più alto di "modo di agire" è una baggianata colossale.
Essendo fortemente storici e contestuali, i concetti di bene e male sono per forza di cose codificati come il resto dei segni che utilizziamo noi, in modalità soggettive.

Quello che voglio dire è che neanche la distinzione tra intelligenza artificiale e intelligenza umana sta in piedi, così come introdotta da M.

Per lui la macchina calcola razionalmente mentre l'uomo fa anche qualcosa d'altro che lo rende "etico", "altro".

Ora pensate al marito androide che si sente dire:
-Caro, ho freddo.
E lui in tutta risposta fa una scansione della mogie umana e rileva una alterazione della temperatura, (perchè tra le direttive principali -e qui ci entra pure asimov- c'è codificato il "benessere" dell'essere umano),
poi prepare il brodo di pollo,
poi una tachipirina
poi le porta la coperta termica e manda via mail i risultati dei test al medico di famiglia.
Come lo descrivereste da un punto di vista "virtuoso"?

Il problema con le macchine è che in prospettiva sono perfettamente etiche, il problema con gli esseri umani è che non lo sono perfettamente.
Per quello è interessante parlarne, per questo avvertiamo il problema.
Trattare la questione con bonarie distinzioni tra male bene, virtuoso e non virtuoso non semplifica il problema lo rende più fumoso, retorico, lontano da ogni possibilità di chiarimento.

Piripicchio ha scritto: Questo contributo è interessante anche perchè è veramente raro che mi trovi in disaccordo con tutto quello che viene detto in un argomento.

Addirittura!

Io invece l'ho trovato abbastanza centrato sull'argomento e condivisibile in alcuni aspetti.
Magari non tutti (ad esempio io non credo che sia SOLO questione di virtù ma eventualmente ANCHE questione di virtù... più avanti mi spiego meglio).

Nel prossimo futuro è indubbio che dovremo imparare a convivere e a governare le intelligenze artificiali, che sono nostre creazioni in grado di superare molti esseri umani (se non tutti) in termini di competenze, conoscenze e potenzialità di apprendimento (considerando il poco tempo che impiegano rispetto a noi ad elaborare grandi quantità di dati).
L'obiettivo principale delle IA, il motivo per cui le abbiamo create, credo sia quello di essere di supporto all'essere umano.

Sono d'accordo sul fatto che affinché il rapporto tra noi e le IA sia proficuo, dobbiamo incontrarci a metà strada. Non dobbiamo essere né intimoriti dall'evoluzione tecnologica, né esageratamente entusiasti della stessa, perché di fatto le IA non risolveranno tutti i nostri problemi.
Questo perché alle IA mancherà quel qualcosa che invece è tipicamente umano a livello fisiologico e che non può essere programmato.
Mastroianni parla di virtù. Io aggiungerei almeno anche empatia, diplomazia, intuito, fantasia, creatività.
La sfera "emozionale" conta parecchio nel prendere decisioni come quelle che stiamo analizzando leggendo questo Libro del Mese e difficilmente una IA potrà colmare questo gap con l'essere umano.

L'esempio della fetta di torta che la mamma dovrà dividere tra due figli mi pare invece molto calzante perché, di fronte alla medesima scelta, l'IA (a meno che non gli venga richiesto esplicitamente dalla mamma di fare diversamente), probabilmente dividerebbe razionalmente la torta in parti uguali. Cosa che la mamma, utilizzando l'emotività tipica degli esseri umani, invece potrebbe non fare se vedesse uno dei suoi due figli particolarmente triste ed abbattuto. Oppure, come dici, potrebbe propendere per non dare la torta a nessuno dei due e regalarla al senza tetto che abita sotto il ponte vicino a casa sua.
In entrambi i casi, la mamma prende decisioni lasciandosi guidare non solo dalla razionalità ma anche dall'emotività. Cosa che la IA non potrà mai fare secondo me. Per questo non capisco il tuo intervento. Al netto della parola "virtù" che magari può tornarti o non tornarti nel contesto in cui la utilizza Mastroianni.

Piripicchio ha scritto: Il problema con le macchine è che in prospettiva sono perfettamente etiche, il problema con gli esseri umani è che non lo sono perfettamente.

Trovo una possibile contraddizione in questa frase.

Come fanno le macchine ad essere "in prospettiva perfettamente etiche" se sono programmate da esseri umani che non lo sono?

Se di fronte al ramo deviato noi stessi non riusciamo a decidere se azionare la leva o no, come possiamo pretendere di insegnarlo ad una macchina che dobbiamo programmare noi?

Il problema è proprio questo: è impossibile secondo me insegnare alla macchina come agire perché non c'è una risposta valida in tutti i casi. Ma mentre noi possiamo allenarci a prendere decisioni sfruttando maggiormente il lato emotivo del nostro cervello, la macchina non potrà farlo.
Ed è per questo che la cosa migliore da fare è "incontrarsi a metà strada" e far lavorare i due mondi (artificiale e umano) in sinergia, sfruttando le migliori doti di ciascuno dei due.

guidocx84 ha scritto: Mastroianni parla di virtù. Io aggiungerei almeno anche empatia, diplomazia, intuito, fantasia, creatività.
La sfera "emozionale" conta parecchio nel prendere decisioni come quelle che stiamo analizzando leggendo questo Libro del Mese e difficilmente una IA potrà colmare questo gap con l'essere umano.

L'esempio della fetta di torta che la mamma dovrà dividere tra due figli mi pare invece molto calzante perché, di fronte alla medesima scelta, l'IA (a meno che non gli venga richiesto esplicitamente dalla mamma di fare diversamente), probabilmente dividerebbe razionalmente la torta in parti uguali. Cosa che la mamma, utilizzando l'emotività tipica degli esseri umani, invece potrebbe non fare se vedesse uno dei suoi due figli particolarmente triste ed abbattuto. Oppure, come dici, potrebbe propendere per non dare la torta a nessuno dei due e regalarla al senza tetto che abita sotto il ponte vicino a casa sua.
In entrambi i casi, la mamma prende decisioni lasciandosi guidare non solo dalla razionalità ma anche dall'emotività. Cosa che la IA non potrà mai fare secondo me. Per questo non capisco il tuo intervento. Al netto della parola "virtù" che magari può tornarti o non tornarti nel contesto in cui la utilizza Mastroianni.

Guido, la questione è che, a mio modesto parere c'è una forma di atteggiamento magico nei confronti di termini come empatia, diplomazia, intuito, fantasia, creatività.
Dobbiamo metterci d'accordo su cosa si intende per creatività ad esempio.
Cosa cambia tra un essere umano che compone un pezzo secondo certi paradigmi e un software che fa altrettanto?
Se ti facessi sentire uno di questi brani e tu non sapessi individuare quello creato dalla macchina, il tuo concetto di creatività cambierebbe?

Poi altra domanda che ti faccio: perchè siamo disposti a ritenere riproducibile la "ragione" e non il resto delle proprietà del cervello?

L'empatia è un dispositivo di adattamento ambientale.
Un organismo che riconosce tramite l'osservazione, e la comunicazione verbale e non, una simmetria emotiva (i neuroni che si occupano di questo processo vengono chiamati "specchio" per questo motivo) con un altro organismo.
Se vedo una persona vicina soffrire, aree del cervello legate alla percezione del dolore verranno attivate in modo piu o meno intenso.

Non dico che la cosa sia semplice, contesto solamente che siano aspetti umani esclusivi e irriproducibili.
La mamma taglia la torta in parti diseguali perchè ha informazioni di contesto che glielo permettono ed ha la possibilità di valutarle. dargli un peso più o meno decisivo.
Non vedo perchè un software non possa fare altrettanto sulla base delle stesse informazioni.

Quello che contesto è l'idea che gli esseri umani abbiano fantastiche proprietà metafisiche.
Ora il cervello o è una macchina (complessa e misteriosa) o non lo è.
Se lo è allora i suoi funzionamenti devono essere riproducibili, prima o poi.
Se non lo è allora siamo nel campo del misticismo e allora tutti hanno ragione o torto a seconda delle stelle.

guidocx84 ha scritto: Come fanno le macchine ad essere "in prospettiva perfettamente etiche" se sono programmate da esseri umani che non lo sono?

Questa è facile.
Come fanno delle macchine a fare calcoli astronomici a velocità elettroniche se sono costruiti da uomini che non ci riescono?
Come fanno delle macchine a captare le collisioni delle particelle subatomiche se noi non riusciamo neanche a mettere a fuoco le lettere dell'oculista? E le macchine che volano o che spostano tonnellate?

guidocx84 ha scritto: Se di fronte al ramo deviato noi stessi non riusciamo a decidere se azionare la leva o no, come possiamo pretendere di insegnarlo ad una macchina che dobbiamo programmare noi?

Ma non è vero che non riusciamo a decidere.
La questione è sulla presunta qualità etica di alcune delle decisioni, ci manda in tilt l'aspetto etico delle diverse possibilità.
Ma una volta che abbiamo codificato per convenzione una regola etica, cosa che facciamo da millenni con vari codici (da hammurabi ai civili e penali), altrettanto convenzionalmente possiamo programmare una macchina per comportarsi in modo perfettamente etico, secondo il periodo storico e i codici vigenti.
(si questa parte è detta veramente male, ma sono stanco...spero di essere stato più chiaro nella parte prima sennò addio....)

Scusa se mi sono dilungato o se alcune cose sono suonate brusche, non ce l'ho con nessuno.
Mi rendo conto che mi sfugge il dono della sintesi ma credo che la questione sia a fondamento di tutta la discussione anche sull'etica.
Vado a letto!

@Piripicchio and Guido.
Ragazzi mi complimento perche sta venendo fuori una discussione veramente interessante.
Forse il tema si sta un po allargando perche dalla domanda su come noi esseri umani ci dovremmo comportare per essere etici, scegliere la cosa giusta, decidere tra bene e male, ora ci chiediamo se una IA possa essere etica o meno. Molto, molto interessante!

Ma se etica vuol dire scegliere tra bene e male, ci serve un criterio sulla base del quale decidere. E' possibile che sia una macchina a decidere questo criterio? Sceglierebbe per la vita dell'uomo? La salvaguardia del pianeta terra? La tutela della vita di ogni vivente o l'interesse economico? Quale sarebbe il bene supremo in base al quale una macchina (progettata da chi, se non dall'uomo?) sceglierebbe ciò che è giusto?

Sono domande che mi affascinano da morire, ma penso che attualmente sia già molto difficile per noi esseri umani cosa è giusto e che le macchine siano ancora molto lontane dal poterlo fare.

Sono domande che mi affascinano da morire, ma penso che attualmente sia già molto difficile per noi esseri umani cosa è giusto e che le macchine siano ancora molto lontane dal poterlo fare.

Cosa?

Stabilire.

Nella fretta mi son dimenticato il verbo Vabbè non etico scrivere di etica quando si ha fretta...

Riprendo una frase di Guido: Questo perché alle IA mancherà quel qualcosa che invece è tipicamente umano a livello fisiologico e che non può essere programmato.
Mastroianni parla di virtù. Io aggiungerei almeno anche empatia, diplomazia, intuito, fantasia, creatività.
La sfera "emozionale" conta parecchio nel prendere decisioni come quelle che stiamo analizzando leggendo questo Libro del Mese e difficilmente una IA potrà colmare questo gap con l'essere umano.

Mi trovo in accordo con Piripicchio, se ho capito bene ciò che intende. Ormai si conoscono bene il funzionamento del cervello e degli ormoni, di tutti i sistemi di trasmissione delle informazioni che innescano certe reazioni e comportamenti. Tutto ciò che chiamiamo emozioni, intuito, empatia ecc. sono prodotti della macchina corpo (a qualcuno può sembrare triste, per me è bellissimo).
Immaginando di costruire un androide grazie alla conoscenza approfondita del corpo umano, e creandone uno che abbia tutte le caratteristiche emotive umane, come ci comportiamo? Lo chiamiamo comunque macchina? Le AI vanno verso questa strada imitando il funzionamento del cervello umano.
Vorrei aggiungere un'altra cosa di cui ho sentito parlare ma che non ho approfondito, per cui la butto lì (se ne sapete di più condividete ): noi parliamo di AI che sono programmate dall'uomo e quindi non possono essere migliori di questo, dipenderà sempre dal programmatore. Invece ho sentito parlare del fatto che le AI, imparando da sole, riescono ad evolversi anche verso strade non pensate dai creatori, uscendo dal controllo di questi. Incredibile, no? Si evolvono da sole e pensano da sole, eppure non sono considerate umane

Quale sarebbe il bene supremo in base al quale una macchina (progettata da chi, se non dall'uomo?) sceglierebbe ciò che è giusto?

Mattia P. ,penso che il "bene " sia un percorso che le varie culture piano piano definiscono, In base ad esigenze, tradizione e storia.
Noi non scegliamo il "bene", lo impariamo come mille altri concetti, a scuola in famiglia e per la strada. Poi lo mettiamo in discussione, lo seguiamo o lo sovvertiamo, ma dentro di noi, alcuni limiti sono ben chiari.
Sappiamo che fare una rapina in banca è male, chi lo fa esercita al di fuori di principi che conosce molto bene.
Non esiste un rapinatore che non si renda conto...
l'uomo però non è programmabile allo stesso livello di una macchina. Per quello mi riferisco alle macchine come, in prospettiva, perfettamente etiche. Proprio perchè possiamo essere sicuri che loro non potranno mai sovvertire le istruzioni. A meno che un hacker non lo faccia di proposito.
Con gli uomini, l'hacker è il soggetto stesso...
(detto male anche questo...perdo colpi.)

Come aveva accennato guido le automobili automatizzate saranno fedeli all'etica di un preciso periodo storico.
Dopo, chessò, 200 anni gli uomini confronteranno gli algoritmi del "bene" e del "male" delle prime auto e probabilmente si sganasceranno dalle risate da come le cose sono cambiate. o magari no.

Cmq si la discussione è interessante anche se mi rendo conto che sia non troppo leggera da seguire...

Tutto ciò che chiamiamo emozioni, intuito, empatia ecc. sono prodotti della macchina corpo (a qualcuno può sembrare triste, per me è bellissimo).

Quoto tutto e anche secondo me è bellissimo.

imparando da sole, riescono ad evolversi anche verso strade non pensate dai creatori, uscendo dal controllo di questi. Incredibile, no? Si evolvono da sole e pensano da sole, eppure non sono considerate umane

Esattamente stai descrivendo, credo, le reti neurali. che sono strutture informatiche che ricalcano il funzionamento dei neuroni. L'argomento è piuttosto complesso anche se sta alla base di tutti i servizi informatici avanzati.
Tutta la frangia informatica che si chiama, per l'appunto "machine learning".

Non ne capisco quasi nulla se non aspetti molto generali tipo: