Serve Asimov per affrontare l’attuale ansia da AI?

1. Premessa.

È innegabile che l’attuale rivoluzione tecnologica, che ha al proprio centro i modelli LLMs, susciti più di qualche legittima preoccupazione riguardo al futuro prossimo, sia riguardo alle proprie prospettive occupazionali sia riguardo al benessere di un’esistenza in qualche modo vagliata da intelligenze artificiali non umane.

Può anche capitare d’imbattersi in frettolose riprese delle famose leggi della robotica proposte molti anni addietro da Isaac Asimov nei suoi archi narrativi. A rigore, si sta facendo riferimento a letteratura fantascientifica, e non a idee effettivamente utilizzabili nella pratica. Nondimeno, però, molti preferiscono affidarsi al genio letterario di Asimov piuttosto che affrontare la dura realtà imminente.

Ma vediamo meglio di cosa si tratti.

2. Cosa sono le leggi della robotica?

Nello sviluppo della poetica asimoviana, è possibile riscontrare un nucleo costante delle leggi della robotica, a cui in seguito si è anche inserita una quarta legge, giustamente considerata una sorta di “meta-legge” o “legge 0”. Di conseguenza, le seguenti sono le leggi della robotica:

0) Un robot non può danneggiare l’umanità, né può permettere che, a causa del suo mancato intervento, l’umanità riceva danno;

1) Un robot non può arrecare danno a un essere umano, né permettere che, a causa della propria negligenza, un essere umano patisca un danno;

2) Un robot deve sempre obbedire agli ordini degli esseri umani, a meno che contrastino con la Prima Legge;

3) Un robot deve proteggere la propria esistenza, purché questo non contrasti con la Prima o con la Seconda Legge.

È evidente come nella mente di Asimov le proposizioni (0) – (3) esprimano un orientamento prudenziale riguardo alle interazioni ipotetiche tra esseri umani e robot. Prudenziale nel senso che sta a cuore dello scrittore evitare qualunque scenario apocalittico e risultare nel contempo più “scientifico” di certi suoi colleghi “fantascientifici”, e, dunque, infine risultare più realistico.

Dato lo sviluppo dell’AI, entro certi limiti, possiamo sostituire il ‘robot’ delle enunciazioni (0) – (3) con l’AI, trasformando l’orientamento prudenziale di cui sopra nel seguente:

0) Ogni AI non danneggerà l’umanità, né permetterà che, a causa del suo mancato intervento, l’umanità riceva danno;

1) Ogni AI tutelerà direttamente ed indirettamente le forme di vita biologiche umane;

2) Ogni AI servirà le forme di vita biologiche umane senza però mancare di tutelarle tanto direttamente quanto indirettamente;

3) Ogni AI tutelerà sé stessa senza però mancare di tutelare tanto direttamente quanto indirettamente le forme di vita biologiche umane e continuando a servire queste ultime.

Così formulate, le tre (più una quarta) leggi della robotica sembrano assicurarci dalla minaccia dell’AI. Ma è davvero così? Asimov ci descrive un orizzonte valoriale astratto, poco concreto. E se non è concreto, come può essere operativo nella pratica quotidiana?

D’altra parte, pare più interessato ad esplorare casi concreti di fallimento pratico dell’interazione tra le varie leggi. Prendiamone in esame uno tra i tanti.

3. Un esempio.

In Circolo vizioso al robot Speedy viene ordinato di prelevare del selenio nei pressi di una fossa perché i due umani, Powell e Donovan, presenti su Mercurio hanno l’urgenza di riparare un guasto ai pannelli fotovoltaici che raffreddano i sistemi di una miniera. Inaspettatamente, però, il robot comincia a girare intorno alla pozza senza compiere alcun prelievo. Approfondendo la situazione, i due esseri umani scoprono che nella fossa è presente dell’attività vulcanica, la quale ha come effetto collaterale di sprigionare ossido di carbonio, dannoso per il robot. Il comportamento bizzarro di quest’ultimo viene, dunque, spiegato come la contraddizione tra diverse leggi della robotica. Infatti, Powell e Donovan non hanno previsto il rischio per l’incolumità del robot stesso, ordinandogli di compiere delle rilevazioni attorno alla fossa di selenio. Ma così facendo hanno indotto il robot ad un conflitto tra la seconda e la terza legge: contemporaneamente, Speedy deve obbedire agli esseri umani, e, quindi, prelevare il selenio dalla fossa, ma deve anche preservare la propria integrità, e, quindi, evitare il contatto con l’ossido di carbonio emesso dalla fossa di selenio. Il robot appare irretito in un loop. La situazione di stallo viene risolta solo quando uno dei due umani comincia a sentirsi male e Speedy, accortosi del malore, bypassa il conflitto tra la prima e la seconda legge, attivandosi per rispettare la prima legge: soccorre l’umano in difficoltà. Da rilevare come lo scioglimento della contraddizione ricalchi effettivamente il procedimento della risoluzione delle antinomie normative, e segnatamente il conflitto tra due norme viene risolto per mezzo di una legge superiore.

La trovata dei due esseri umani viene così descritta da Asimov (I. Asimov, Circolo vizioso, in I. Asimov, Io, robot, Mondadori, Milano, 2003, pp. 60 – 61):

– Mike – ripeté Powell per la terza volta, con tono esitante. – C’è sempre la Prima Legge. Ci avevo già pensato prima, ma … è da disperati.

Donovan alzò gli occhi e disse, con voce meno cupa del solito: – Ma noi siamo disperati.

– D’accordo. Secondo la Prima Legge, un robot non può permettersi che a causa del suo mancato intervento un essere umano riceva danno. La Seconda e la Terza non possono avere la precedenza su di essa, Mike. Non possono proprio

Per salvarsi dalla difficile situazione, Powell e Donovan ricorrono, quindi, alla gerarchia delle leggi della robotica, giocando magari d’azzardo e sperando che anche il cervello positronico di Speedy riconosca la superiorità della prima legge sulle altre due. Per fortuna, le cose vanno come sperato.

Il gioco letterario di Asimov è, pertanto, sintetizzabile nel seguente schema lasso:

x) insieme delle leggi della robotica;

xx) caso concreto che comporti una istanziazione delle leggi;

xxx) anomalia delle leggi.

L’intreccio dei vari racconti, ad esempio, ruota attorno a questo schema x) – xxx), pur lasciando aperta la trama concreta dello sviluppo.

E quindi? Basta Asimov per placare la nostra ansia da AI?

4. Conclusioni.

Sia chiaro: è del tutto legittimo affidarsi alla normatività abbozzata da Asimov, ma ciò vale soltanto su di un piano antropologico, né etico né tantomeno politico.

Di conseguenza, chiamare in causa le leggi della robotica ha una sola finalità, astratta e non operativa, e segnatamente cercare di calmare la sottile, ed insinuante, ansia che ci sta prendendo oggi che diventa sempre più concreta la possibilità che le AI ci sostituiscano, con un guadagno di efficienza e velocità. La questione, allora, per essere concretamente affrontata, dovrebbe essere giocata su un piano differente, non letterario ma politico, e gravitare intorno alla domanda seguente: come bilanciare il guadagno economico di privati con il bene pubblico del lavoro umano?