L'intelligenza artificiale, tra progresso e rischi per l'umanità

Un report “totalmente falso” ma che ha “rischiato di scatenare una guerra” tra Usa e Cina. Lo ha detto una delle fonti della CNN che, il 18 settembre, ha pubblicato lo scoop di un documento dell’intelligence, diffuso in primavera tra le forze militari americane, con un contenuto da allarme rosso: nel pieno della guerra con l’Iran, una nave cinese in Medio Oriente stava trasportando componenti destinati a un programma di armi nucleari. Prima di scoprire che il report era stato generato da un analista con l’aiuto dell’intelligenza artificiale – e che il chatbot aveva riportato informazioni false - l'esercito statunitense era entrato in azione con l'intenzione di intercettare l'imbarcazione. Lo hanno confermato quattro fonti a conoscenza dell'episodio.

Fortunatamente, l’operazione è stata annullata in tempo. Ma questo esempio è emblematico per capire la pericolosità dell’AI, quando viene usata in maniera avventata.

I rischi dell’AI

I rischi della tecnologia possiamo dividerli in tre categorie: quelli correlati a profonde trasformazioni economiche (ingiustizie sociali, perdite di posti di lavoro non compensate da nuova occupazione etc.), un’AI fuori controllo che opera in maniera indipendente e un’AI controllata da umani in maniera errata o per scopi volutamente malvagi.  

Il dibattito sui pericoli, tra l’altro, è stato riacceso recentemente dai cyberattacchi effettuati in autonomia da alcuni agenti AI (soprattutto l’assalto proveniente da OpenAI alla piattaforma Hugging Face e al sistema sanitario australiano), nonché dalle dimissioni di uno degli ormai ex ricercatori di Anthropic, Jacob Coxon, che ha parlato di uno sviluppo sconsiderato della tecnologia che in futuro potrebbe portare, nel caso più estremo, a scenari apocalittici legati al destino dell’umanità. Senza contare anche alcuni incidenti (per ora non gravi) causati da robot umanoidi.

Dopo il trambusto creato dai recenti eventi, i principali leader della corsa all’AI – tra cui Dario Amodei (Anthropic) e Sam Altman (OpenAI) – hanno chiesto un rallentamento della ricerca, al fine di favorire un quadro regolatorio più chiaro e sicuro. Non sono mancate ricostruzioni sugli obiettivi nascosti di questo appello, tuttavia, in questo articolo ci concentreremo su un altro aspetto: a prescindere dai vari interessi, i rischi sono reali, ma con diversi livelli di pericolosità e di probabilità che il rischio si avveri.

Il report di Anthropic e l’appello del 2023

Amodei, sul suo sito personale, ha citato “il rischio di perdere il controllo dei sistemi di intelligenza artificiale, l’uso improprio dell’AI per attacchi informatici e bioterrorismo, nonché gravi sconvolgimenti economici”. Inoltre, Anthropic ha pubblicato un rapporto sulle minacce in cui si descrive come criminali, gruppi sostenuti da Stati, fornitori di spyware, scienziati e propagandisti abbiano cercato di utilizzare i suoi modelli per progettare missili e bombe, creare agenti patogeni letali e spiare i dissidenti.

Amodei e Altman, già nel 2023, avevano firmato una dichiarazione del Center for AI Safety che recita: "Mitigare il rischio di estinzione causato dall’intelligenza artificiale dovrebbe essere una priorità globale al pari di altri rischi societal-scale, quali le pandemie e la guerra nucleare". Da notare che tale affermazione fu firmata non solo da industriali, ma anche da figure indipendenti e scienziati come Yoshua Bengio, uno dei pionieri dell'AI e del deep learning.

Le proposte dell’Obama Foundation

Non tutto è male. “L'intelligenza artificiale viene già utilizzata nelle guerre, nei programmi di sorveglianza governativi e per diffondere notizie false su larga scala, ma è anche motore di un reale progresso economico e sociale”. Lo ha ribadito di recente Oyungoo Enkhbold, consulente di etica dell'AI e sicurezza informatica presso un programma delle Nazioni Unite per lo Sviluppo in Mongolia, nonché tra i ‘leader’ selezionati dall’Obama Foundation.

Ne ha parlato proprio con Barack Obama, che con la sua associazione non-profit sta chiedendo di mettere la regolamentazione dell’AI in cima all’agenda politica. Con l’obiettivo di mitigare i rischi e indirizzare ricerca e utilizzo verso il bene comune, come spiegato dall’ex presidente: “Sarà importante, qui negli Stati Uniti come punto di partenza, ma anche altrove, disporre di una struttura normativa pubblica che contribuisca a orientare la direzione di questa tecnologia, affinché non vada a vantaggio solo di poche grandi aziende, ma della collettività in senso più ampio - sia per prevenire gli effetti negativi che l’IA potrebbe comportare, come la disinformazione, i deepfake, etc. ma anche per incoraggiarla a orientarsi in una direzione migliore, perseguendo ciò di cui abbiamo davvero bisogno”. Per esempio, utilizzandola per supportare la ricerca medica, l’efficienza energetica e liberare le persone da attività ripetitive per dedicarsi a quelle a maggior valore aggiunto. Ma “nulla di tutto ciò può avvenire in modo responsabile senza misure di salvaguardia e parametri di riferimento per la sicurezza pubblica”.

Un organismo internazionale

La legislazione negli Usa può servire da apripista, ma non è sufficiente per un fenomeno che coinvolge tutte le nazioni. Per questo si moltiplicano gli appelli a ‘cabine di regia’ internazionali.

Tuttavia, il presidente degli States è Donald Trump, restio a porre dei freni all’AI, benché stia ricevendo pressioni anche dalle file del partito repubblicano. Inoltre, la cooperazione multilaterale è stata archiviata dall’attuale amministrazione americana, che preferisce il metodo cosiddetto dell’America First. Anche l’altra superpotenza mondiale, la Cina, non dà grandi garanzie.

Nonostante la strada sia in salita, ci sono dei tentativi da non sottovalutare. Bengio, negli ultimi anni, ha proposto la creazione di un’organizzazione indipendente internazionale che combini alcuni elementi dell'IAEA (l'agenzia per l'energia atomica) e del CERN. Oggi, è co-presidente, insieme alla giornalista e premio Nobel per la pace Maria Ressa, dell'Independent International Scientific Panel on AI dell’ONU. Non è un’autorità mondiale che può ispezionare laboratori, imporre divieti o sanzionare aziende, ma è comunque un inizio sulla via del coordinamento globale.

A sostenere questo percorso di collaborazione tra le nazioni è anche Papa Leone XIV, che ha dedicato la sua prima enciclica, la Magnifica Humanitas di quest’anno, proprio all’essere umano nell’era dell’AI.  In un passaggio, in cui cita vari esempi, tra cui la nascita del Comitato Internazionale della Croce Rossa (1863), ricorda: “La storia non appare solo come il catalogo delle nostre violenze, ma anche come la prova che l’umano sa generare istituzioni capaci di proteggere la vita comune”. E un'opinione pubblica informata e mobilitata è fondamentale per accelerare questo cammino.