La cooperazione di intelligenze artificiali con intelligenze umane. Alcune note su un testo di Paolo Benanti

Le macchine sapienti

L’avvento degli attuali modelli di AI è certamente la novità principale del progresso tecnologico in corso. Molte sono le metafore che si sono sprecate nel tentativo di descrivere la situazione attuale e, forse, di più, nel tentativo di prefigurare un futuro possibile. Non da ultimo, Paolo Benanti, uno degli autori italiani al momento più noti sul fronte della narrazione del rapporto tra le AI e le persone umane, adopera la felice locuzione “macchine sapienti”. Nello specifico, il punto saliente è il seguente: con il progresso tecnologico in corso abbiamo una diversa percezione del mondo (p. 14). Se la tecnologia media il rapporto tra le persone umane e la realtà, attualmente cambia la stessa cognizione possibile del mondo. Eppure, lo sviluppo mandato ad effetto da Benanti è originale rispetto a questo presupposto: assunto che le AI sono il funzionamento di connessioni tra elementi materiali, possiamo parlare benissimo di macchine sapienti. Ovviamente, l’autore gioca sull’analogia tra materia bruta e materia che pur rimanendo bruta compie delle operazioni che non esiteremmo a definire “intelligenti”. Di conseguenza, le macchine così intese sono, in qualche modo, meno brute e più sapienti. Dopodiché il problema non appare più la considerazione teorica da offrire delle AI, ma il rapporto tra queste ultime e gli esseri umani.

(mappa elaborata dall’AI Napkin)

La cooperazione tra le macchine sapienti e gli esseri umani

Più nel concreto, Benanti ritiene che il tema sia la cooperazione da instaurare tra le prime e i secondi. In altri termini, bisogna fondare un approccio morale che tuteli i vari soggetti chiamati in causa nella relazione tra le AI e le persone in carne ed ossa. E non soltanto perché la mediazione operata dalle macchine, benché più intelligenti del tostapane di un decennio fa, modifica la nostra stessa conoscenza del mondo, ma anche perché via tale mediazione a cambiare è anche il nostro orizzonte morale. Di conseguenza, la morale va, per così dire, aggiornata alla situazione attuale, e segnatamente all’interazione tra le AI e i soggetti umani.

L’approccio di Benanti è sicuramente di tipo antropocentrico, nel senso che limita il repertorio etico delle macchine sapienti alla tutela della dimensione umana, ma ciò non è di per sé un limite, e non lo è nella misura in cui si parte dal presupposto che in una interazione siffatta è urgente dal punto di vista etico tutelare la parte più vulnerabile. Tra le AI e i soggetti umani che interagiscono con le prime sembra inutile nascondersi il fatto che sono questi ultimi la parte più vulnerabile all’interno del processo cooperativo. Di conseguenza, per Benanti, la cooperazione tra AI e persone umane deve garantire sufficiente sicurezza onde evitare di nuocere.

In tal senso, anche Floridi ha recentemente sostenuto come gli attuali modelli di AI non siano affatto delle intelligenze artificiali, al più degli “agenti automatici” (https://www.ai4business.it/intelligenza-artificiale/libri/__trashed-3/). Sulla scorta di questa idea, Benanti suggerisce l’opportunità di configurare le AI nei termini di Agenti Morali Automatici (AMA) (p. 49). È cioè opportuno riconfigurare la tematica dei rapporti tra AI ed esseri umani in quella di una più generica, ma anche più comprensiva, condizione tecno-umana (p. 57). Una volta che le AI vengono interpretate nei termini di AMA, la questione diviene re-interpretare la medesima condizione umana. A maggior ragione, inoltre, se quest’ultima è attualmente effettuata per mezzo della mediazione; pertanto, è forse il momento di ripensare la nostra condizione umana. Ancora una volta, dunque, si conferma il punto che il problema non sono le AI, ma noi esseri umani.

Il nocciolo più intimo e personale della condizione umana, e segnatamente la libertà, viene condizionato dalla mediazione medesima che l’artefatto tecnologico manda ad effetto tra l’uomo e il mondo (p. 65). È nella nostra pratica quotidiana che esperiamo l’effetto mediatore della tecnologia nel vivere la nostra medesima condizione umana. Ne consegue, pertanto, che il nostro luogo esistenziale è adesso la condizione tecno-umana (p. 65). Sebbene sia l’intera storia moderna il risultato della rivoluzione tecnologica, è pur vero però che l’apparente intelligenza mostrata dagli artefatti di AI modifica radicalmente il modo di esistere da parte dei soggetti umani. A tal proposito, Benanti sostiene che sotto una certa considerazione le macchine si umanizzano mentre in parallelo gli uomini si macchinizzano (p. 92). La relazione tra gli uomini e le macchine comporta cioè un’ibridazione tra i due poli della medesima relazione.

(mappa elaborata dall’AI Napkin)

E i Big Data?

Il rischio è quello che l’autore conia come dataisno, ovvero l’atteggiamento di quanti riducono il mondo ad un flusso di dati, con la spiacevole conseguenza di sostituire al senso del mondo la sua rappresentazione sotto la forma di informazioni computabili dalle macchine (p. 98). In altri termini, il dataismo potrebbe configurarsi nei termini di una teoria unificata del tutto in forza della quale sia possibile superare gli steccati disciplinari così come la distinzione tra materia ed anima, e segnatamente tra materia bruta e materia senziente (p. 102). Ogni cosa, così come ogni differenza, verrebbe ridotta ad una cosa sola, ossia una sequenza di dati manipolabile.

Per queste ragioni, a detta dell’autore, la relazione tra gli uomini e le macchine dev’essere improntata alla cooperazione reciproca. Pertanto, quest’ultima viene mandata ad effetto per mezzo dell’implementazione di un codice etico, che dal canto suo aggiorni quanto più possibile l’insieme dei valori propri della condizione umana al progresso tecnologico in corso.

(mappa elaborata dall’AI Napkin)

Un codice etico per la relazione tecno-umana

Presupponendo che rappresentare qualcosa non equivale ad accedere al senso di ciò che viene rappresentato, Benanti ritiene anche che la relazione tecno-umana deve implementare non solamente la componente razionale degli esseri umani, ma anche la dimensione emotiva di cui i primi sono portatori (p. 112). Tuttavia, le macchine potrebbero perseguire una completa efficienza nel loro repertorio autonomo, e questo senza tenere in alcun conto la parte umana della relazione di cui sopra. Ragion per cui, secondo l’autore bisogna progettare la relazione medesima in maniera tale che la priorità operativa non risieda nell’algoritmo, ma nella persona (p. 123). La fondazione etica della cooperazione tra gli uomini e le macchine sapienti dev’essere mandata ad effetto in maniera tale che il robot cooperi con gli uomini e che questi ultimi non siano semplici assistenti delle macchine (p. 123).

(mappa elaborata dall’AI Napkin)

Se la cooperazione è, dunque, il fine cui dovrebbe tendere la relazione tecno-umana tra AI ed operatori umani, allora diventa evidente come sia necessaria una specifica guida del progresso tecnologico che possa orientare quest’ultimo verso detta finalità. In modo particolare, Benanti parla al riguardo di “governance”, alludendo forse alla necessità di un dibattito pubblico internazionale che coinvolga tutti gli attori, pubblici e privati, nella messa a punto di una gestione multidisciplinare dell’intelligenza artificiale (p. 131). Per l’autore è anche quantomai opportuno che detta governance segua una precisa checklist, ossia ben 18 questioni che consentano un orientamento etico nella gestione della relazione tra le AI e i soggetti umani. Anche perché la stessa relazione tecno-umana esprime una precisa cultura, ovvero una visione che l’uomo ha di sé stesso e del mondo (p. 141). Se la nostra condizione attuale è per l’appunto quella derivante dalla relazione tecno-umana, allora la cultura risultante esprimerà una concezione dell’uomo, del mondo e dei relativi significati. Da questo punto di vista, infatti, la tecnologia è legata ad una data antropologia di riferimento (p. 141). Onde evitare possibili rischi di peggioramento della condizione umana, derivante a sua volta da uno smarrimento di senso causato dall’attuale relazione tecno-umana, guidata dalla natura pervasiva delle intelligenze artificiali, e del loro imporsi economico nelle nostre società, Benanti suggerisce la costituzione di una cultura organizzativa capace di implementare soluzioni etiche prima ancora che l’artefatto tecnologico venga prodotto. In questo modo, infatti, si evita di confondere il mezzo con il file, salvaguardando già a livello di progettazione la vulnerabilità del fattore umano nella cooperazione tra le AI e le persone umane. Peraltro, non è il profitto economico ciò che dovrebbe dirigere lo sviluppo tecnologico, ma lo sviluppo umano (p. 156). In conclusione, allora, la condizione tecno-umana dovrebbe tradursi nell’impegno per una governance delle tecnologie di intelligenza artificiale e in una responsabilità aziendale diffusa (p. 156).

(mappa elaborata dall’AI Napkin)

Conclusioni

Mi siano a questo punto consentite alcune brevi considerazioni in merito. Innanzitutto, il testo è più una breve introduzione alla tematica che un suo puntuale sviluppo. E ciononostante Benanti coniuga efficacemente chiarezza divulgativa e profondità delle questioni richiamate. Sicuramente apprezzabile è il costrutto teorico che regge il discorso, e segnatamente la particolare relazione etica derivante dall’interazione tra le AI e i soggetti umani. In questo senso, scoperta è la finalità etica portata avanti, e non necessariamente ciò costituisce un difetto. Alcune perplessità, invece, emergono dalla parte propositiva del discorso portato avanti, e segnatamente l’eccessivo ottimismo nei confronti di una cultura aziendale capace di aprirsi ai nuovi bisogni umani anziché alla mera e semplice legge del profitto d’impresa.

Ma al di là di tutto questo, ciò che a mio sommesso parere in misura maggiore deve essere tenuto in debito conto è la percezione del rischio di smarrire il senso del mondo confondendolo con le sue mappe o rappresentazioni. La mappatura può aiutare a comunicare oppure a riassumere un senso già noto, ma in nessun caso può sostituire quest’ultimo o fungere da scorciatoia nell’impresa umana, troppo umana, di trovare il significato esistenziale del proprio stare al mondo. In tal senso, le illustrazioni disseminate nel presente testo, seppur create per mezzo dell’AI, e pur apparendo vagamente professionali, mappano per l’appunto i vari paragrafi stesi ma in nessun caso possono sostituire il senso complessivo espresso da questi ultimi. È, cioè, necessario non sostituire il senso con le sue mappe. O, se si preferisce, il soggetto umano con il suo sostituto tecnologico. In tal senso, la cooperazione appare decisamente preferibile.

Resta, però, sullo sfondo la questione irrisolta: come mandarla ad effetto concretamente?

(Paolo Benanti)