TECNOLOGIA: Questo agghiacciante e critico documentario di intelligenza artificiale quasi soccombe alle oscure affascinazioni che rappresenta, lasciando un'impressione forte e inquietante di nascenti poteri digitali che superano il controllo umano.
Avatar
Anders Dunk
Dunker è un filosofo norvegese e collaboratore regolare.
Data di pubblicazione: 24 novembre 2019

Direttore Tonje Hessen Shit ha precedentemente indagato sulla dipendenza dai media digitali tra i bambini in Italia Gioca di nuovo (2010) ed esaminato i sistemi automatizzati di armamento in Fuco (2014). Sostenuta da questa vasta comprensione, la sua prospettiva in iHUMAN si allarga a un panorama completo di AI sviluppi. Attraverso una serie di dichiarazioni eccezionali dei maggiori esperti, assistiamo a una valanga iniziale di cambiamenti, poiché la società connessa a livello globale è pervasa da algoritmi che dettano sempre più i termini della nostra condizione umana.

Qualche anno fa uno dei principali intervistati nel film, il programmatore svedese-americano Max Tegmark, è stato coautore di un articolo con Stephen Hawking nel 2014, avvertendoci che non dovremmo liquidare i film che ritraggono un acquisizione di AI come semplici finzioni. In apertura di iHUMAN lo stesso Max Tegmark ci assicura che l'IA cambierà tutto, ma è anche come una scommessa: potrebbe risolvere tutti i nostri problemi, ma potrebbe anche portare al disastro. Il film si concentra su quest'ultima possibilità, poiché le tecnologie digitali ci spingono già in un mondo che finora abbiamo associato alla fantascienza.

Il Padrino

Informatico e ingegnere svizzero Fabbri Jürgen volentieri si fa ritratto come un inventore megalomane archetipico. La sua eccitazione civilizzata e contenuta può essere come un presagio di déja vu a coloro che hanno familiarità con il personaggio di Anthony Hopkins nella serie TV Mondo dei robot: Dr. Ford, l'ingegnere robotico che pianifica tranquillamente la ribellione delle sue stesse creazioni.

Schmidhüber gioca con il suo bambino robot dall'aspetto dolce, un moderno Pinocchio, nel suo laboratorio alpino - e sarebbe tentato di liquidarlo come una caricatura del genio pazzo. Ma quest'uomo non è un crack: è il padre dell'IA moderna e dell'apprendimento profondo, soprattutto nel suo campo. Dovremmo quindi credergli quando dice che presto insegneremo ai robot come fare le cose semplicemente mostrando loro come si fa qualcosa, come se insegnassimo a un bambino. «Una volta che impareranno, eseguiranno i loro compiti in modo impeccabile», sottolinea sorridendo soddisfatto, «e poi ne faremo un milione».

Jürgen Schmidhüber si lasciò volutamente rappresentare un inventore megalomane archetipico.

In una serie di segmenti del film, incontriamo Schmidhüber in alto sui pendii alpini, come se stesse osservando la vita umana da una prospettiva elevata, mentre spiega le sue visioni di un'intelligenza immortale al silicone. Essendo solo umano, si accontenta di vedersi come un semplice trampolino di lancio: lo stadio intermedio di un'evoluzione cosmica, un mezzo per gli esseri superiori per creare se stessi. Nel crescere questi esseri nuovi e superiori, insiste, dovremo liberarli. L'intelligenza artificiale (AI) non è sufficiente: dobbiamo anche creare una curiosità artificiale, in modo che le macchine possano apprendere dalle proprie esplorazioni e riprogrammare se stesse.

Manipolazione senza fine

Dalla sua casa minimalista poco illuminata, lo sviluppatore di AI Ilya Stuskever, spiega solennemente la nostra situazione, lavorando sul suo computer mentre cammina sul suo tapis roulant. Le sue dichiarazioni schiette e scioccanti gli danno un'aria dall'interno tormentato, tremante di conoscenza segreta e profetica. È convinto che i computer non solo ci supereranno in compiti specifici, ma che anche l'Intelligenza Artificiale Generale (GAI) sta arrivando. Mentre la svolta dipende semplicemente dalla potenza di calcolo bruta, il GAI riprogrammerà senza dubbio se stesso attraverso forme avanzate di apprendimento automatico. Una tale intelligenza, spiega con apprensione sconcertata, potrebbe facilmente essere in grado di creare una dittatura infinitamente stabile.

Gli elementi di tale futura distopia orwelliana sono mostrati come una realtà contemporanea più avanti nel film: In Cina, il Popolazione uigura musulmana nelle province nord-occidentali sono sottoposti a scansioni frontali, sorveglianza costante e barriere digitali. Una tale guerra unilaterale di informazioni interrompe il loro accesso e la loro capacità di agire politicamente mentre accede a tutti i loro dati più intimi e controlla tutte le loro azioni.

E l'Occidente?

Incontriamo anche Michal Kosinski, lo «scienziato di dati più controverso dei nostri tempi» e l'uomo dietro gli algoritmi di Cambridge Analytica che hanno aiutato Trump vincere le elezioni statunitensi. Mirando agli elettori in base a profili psicologici basati sui dati raccolti dai social media, potevano usare le loro paure, attaccamenti e vulnerabilità per dare una spinta al loro comportamento di voto. La sua valutazione informata? «Dobbiamo affrontare l'inconveniente della verità che la privacy è sparita - per sempre.»

«Dobbiamo affrontare l'inconveniente della verità che la privacy è sparita - per sempre.»

Kosinski attualmente lavora su un software di riconoscimento facciale in grado di distinguere le persone omosessuali con grande accuratezza e sogna di trovare modelli simili per potenziali criminali. Insiste sul fatto che esplora i poteri dell'IA per sapere cosa è possibile in modo che possiamo rimanere al passo con lo sviluppo e adottare le nostre misure per la sicurezza. Eppure - oh, sì! - questi dati potrebbero essere utilizzati in modo improprio. Come con così tanti futurologi della tecnologia distopica, i suoi drammatici avvertimenti suonano più come pubblicità.

La realtà si dissolve

La pericolosa mezza verità che viene costantemente ripetuta dagli esperti del film - «è impossibile fermare questo sviluppo» - avrebbe forse dovuto essere sfidata più attivamente nel film. La distopia dell'IA sta evidentemente per diventare una profezia che si autoavvera. Nemmeno i programmatori e i creatori sembrano credere seriamente che stanno creando un dio miracoloso che può salvarci. Invece, c'è un forte senso di scatenare una forza demoniaca malevola. Allora perché farlo?

Attrazione irresistibile

Nonostante la sua atmosfera fantascientifica deformata, il film mostra che le forze inarrestabili che spingono gli sviluppi dell'IA non sono esse stesse misteriose. I vantaggi militari e strategici dell'intelligenza artificiale provocano un'intensa competizione e generano segretezza a livello nazionale e internazionale. I guadagni economici dei mercati dell'informazione trasformano anche le piattaforme mediatiche in agenzie di intelligence globali con forti interessi acquisiti. Il settore imprenditoriale e le forze armate collaborano sempre più, come si evince dai passaggi critici sul progetto Maven, caldamente dibattuto di Google, che utilizza algoritmi di intelligenza artificiale per insegnare ai bombardieri di droni a scegliere obiettivi umani. Nella vita di tutti i giorni, più di ogni altra cosa, l'IA viene utilizzata come strumento di marketing invasivo: una leggera manipolazione che tutti noi accettiamo facilmente per comodità, sottomettendoci, volenti o nolenti, al giogo del dominio dell'IA.

Ciò che è inventato non può essere non inventato.

Ciò che è inventato non può essere non inventato. Questo fatto da solo rende l'evoluzione tecnologica un destino. Alla fine del film, il genio dell'intelligenza artificiale Schmidhüber aggiunge un altro fattore cruciale: puoi provare a fermare gli scienziati, ma sono semplicemente troppo curiosi per trattenersi.

Nonostante tutte le sue critiche esplicite, il film gioca anche in modo ambiguo con la nostra stessa curiosità, suscitando un'eccitazione oscura che non è pienamente spiegata. Forse il fascino arriva con la consapevolezza che questa potrebbe essere la più grande storia di sempre, e che con le migliori fonti a portata di mano, questa è un'occasione d'oro per renderla estremamente elettrizzante. I brividi, dovremmo ricordare a noi stessi, sono percepiti in prossimità di poteri più grandi di noi - che sogniamo di dominare, ma che potrebbero divorarci altrettanto facilmente.