Nell’articolo precedente si era affrontato il tema della fantascienza come strumento profetico relativo al progresso e allo sviluppo della razza umana; tra i temi citati (ed è anche uno degli argomenti di maggiore interesse negli odierni dibattiti), quello sull’intelligenza artificiale merita una menzione particolare.

Si può affermare che la letteratura fantascientifica abbia avuto origine proprio con questo concetto; il precursore è Frankenstein, opera del 1818 di Mary Shelley in cui si affronta la tematica della paura umana di fronte a una ricerca scientifica libera da catene etiche, generatrice del “mostro”: un essere vivente concepito dal volere umano, il quale acquisisce consapevolezza e volontà propria, divenendo non solo una sfida all’ordine biologico e divino, ma anche un potenziale pericolo per l’umanità.

Oggi

La società odierna ha a che fare con le forme più disparate d’intelligenza artificiale: dagli assistenti come Cortana o Siri, fino a processori per robot. Sofisticati algoritmi permettono a dispositivi elettronici di anticipare o prevedere le preferenze degli utenti (ne è un esempio Google).

 Mobile World Congress

Il 28 febbraio 2019, a Barcellona, si è tenuto il Mobile World Congress. Questa edizione sarà ricordata non solo come fautrice della tecnologia 5G, ma come precorritrice dell’“Internet of things”. Ossia la digitalizzazione delle infrastrutture, la connessione di qualunque dispositivo (mezzi di trasporto inclusi). Ciò comporta una sempre maggiore necessità di dispositivi multiuso capaci di connettersi, compiendo così importanti passi verso la “networked society”. Un sistema sociale caratterizzato dall’onnipotenza, l’onnipresenza e l’onniscienza della rete; in altre parole, una divinità materiale e immateriale che potrebbe insinuarsi nella vita privata di miliardi di persone.

Ricadute possibili

Ciò comporterà a un passaggio successivo: la virtualizzazione del reale e la concretizzazione del virtuale (dalla realtà virtuale immersiva alla realtà aumentata). L’essere umano farà sempre più affidamento su un’entità sia interna che esterna, l’intelligenza artificiale, la quale potrebbe creare un solco paradossale. Da una parte avremo una società “progredita e avanzata”, ma sempre indissolubilmente dipendente dalla rete. Mentre dall’altra parte ci sarà una società “arretrata”, abbandonata a sé stessa e incapace di beneficiare del progresso poiché priva degli strumenti di connessione.

Queste ipotesi porterebbero il confine tra l’alienazione delle relazioni, la personificazione degli oggetti e la riduzione a oggetto dell’uomo a svanire. Ciò appare evidente nella società, dove individui sempre più dipendenti dai dispositivi, acconsentono al trattamento dei loro dati indiscriminatamente. Regalano le informazioni, che siano foto, tag, video o semplici scritti al sistema tutto.

Insomma, tutto quello che servirebbe a tracciare algoritmi e a delineare profili di manipolabilità.

Esempi

Di tutto questo, la letteratura e l’arte audiovisiva fantascientifica ha fornito ampi esempi; gli ultimi decenni sono stati forieri di opere ricche di contenuto e dagli spunti interessanti:

Matrix
  • “Matrix” illustra un’umanità desiderosa di costanti illusioni e asservita a macchine che sfruttano gli esseri umani come fonte energetica.
Avengers: Age of Ultron
  • In “Avengers: Age of Ultron” si assiste alla contrapposizione di due differenti tipologie d’intelligenza artificiale: Ultron, nato come redentore, vede nell’essere umano un orrore infinito e tenta di estirparlo in nome di una nuova epoca di pace, e la sua nemesi Visione, che desidera comprendere le emozioni umane e vede “grazia nei loro fallimenti”, pertanto sono meritevoli di salvezza.
Serial Experiments Lain
  • “Serial Experiments Lain” è un’opera profetica che nel 1998 anticipò lo sviluppo dilagante della rete (il “wired”), in cui l’uomo “metaforizza” se stesso per ricercare la propria controparte e nel contempo deificarsi, liberandosi dalle catene della materialità e dalle periferiche di connessione per estendersi nell’infinito del virtuale.
Psycho Pass
  • “Psycho Pass” illustra una società in cui vige un criterio di giudizio sull’animo umano basato su analisi condotte da macchine, le quali stabiliscono (in base al proprio stato mentale, inclinazioni personali e al livello di stress) il coefficiente di criminalità; se una persona è considerabile o meno come criminale latente e, come tale, bisognosa di cure o di sanzioni. Chi gestisce tutto questo non è altro che il Sybil System, un insieme di processori organici e cervelli umani.
Ghost in the Shell
  • L’universo cyberpunk di “Ghost in the Shell” mostra come la fusione tra individuo e macchine presenti contraddizioni come la ricerca di un Dio (“la rete è vasta e infinita”) e come la stessa biologia possa definirsi come una forma estremamente complessa di tecnologia, al punto che i cervelli umani altro non siano che periferiche a cui poter attingere dalla rete. La memoria umana diventa accessibile come quella di un computer.
Beatless
  • “Beatless” è forse il caso più chiaro ed emblematico, un mondo in cui esseri umani e hIE (humanoid Interface Element, interfacce robotiche dalle sembianze umane) convivono pacificamente e queste hanno raggiunto un livello d’integrazione tale da svolgere comuni mansioni umane, emulando espressioni facciali ed emozioni. Non tutti gli esseri umani riescono ad accettare una simile rivoluzione sociale in cui l’intelligenza artificiale ha superato quella umana. Vedere le I.A. poter decidere e offrire, per esempio, una classe politica che si prefigge il raggiungimento del benessere comunitario, spaventa. Ciò estremizza le paure umane, le quali producono reazioni di avversione e rigetto verso l’ipotetica nuova forma di governo, mettendo a nudo l’inferiorità e la mediocrità umana, incapace di saper governare se stessa e lasciando spazio alla frustrazione e alla violenza. In Beatless vi sono altre tematiche fondamentali: le hIE sono così avanzate da effettuare hacking sulle emozioni umane, arrivando a condizionare le preferenze, il senso etico ed estetico, ecc. per indirizzare i desideri e le pulsioni verso determinate direzioni; nel contempo, tutte le loro azioni sono sotto la responsabilità dei loro proprietari umani, i quali possono rispondere penalmente per le azioni delle loro hIE.

Beatless – Satoshi Hase e Redjuice ©.

Gli esempi sopra citati mostrano come l’uomo stia compiendo (più o meno consapevolmente) gli ultimi ritocchi per creare il suo Dio, un gigantesco server le cui memorie e capacità si estendono nell’infinità del cloud; contrariamente a quanto si potrebbe pensare, una ribellione delle macchine non sarà necessaria, poiché sarà l’essere umano stesso a volersi sottomettere a seducenti interfacce euristiche.

2021: Odissea nello spazio ed Ergo Proxy

Paradossalmente, sono opere come “2001: Odissea nello spazio” ed “Ergo Proxy” a risultare più fantasiose, in quanto presumono che le intelligenze artificiali, assumendo consapevolezza della loro esistenza, decidano di ribellarsi ai loro creatori e reclamare la propria identità.

Conclusioni

Non è possibile arrestarne il progresso, l’uomo non solo sarà costretto a conviverci, ma dovrà a sua volta tenere il passo se non vuole cedere il primato evolutivo e sprofondare nell’angoscia che sia una macchina a controllare la sua esistenza. I legami tra uomo, macchina e rete si intensificheranno al punto da raggiungere lo stato d’interconnessione.

Con la nascita della roboetica nel 2002 (una disciplina filosofica che regola i rapporti tra gli esseri umani e i robot, automatismi dotati di IA autonoma), l’essere umano ha voluto fornire una prima risposta alle sfide attuali e future che comporta l’evoluzione e la diffusione delle intelligenze artificiali.

Questa nuova tecnologia spaventa e lega a sé nello stesso tempo, la società ne è indissolubilmente legata e ne sarà sempre più dipendente, spetta all’umanità l’arduo compito di conviverci preservando la propria identità, evolversi e cercando affidabili strumenti di convivenza.