“Esiste il rischio di danni gravi, persino catastrofici, derivanti dalle capacità dei nuovi modelli di intelligenza artificiale”. È questa frase, piuttosto inquietante, il cuore del primo accordo internazionale per la sicurezza dell’AI, firmato il 1° novembre da 27 Paesi, fra cui UK, Stati Uniti, Canada, Cina e India, e dall’Unione europea.

L’occasione per mettere sul tavolo un tema che diventa ogni giorno più urgente l’ha fornita l’AI Safety Summit, svoltosi l’1 e 2 novembre a Bletchley Park, la tenuta nella campagna londinese dove Alan Turing, durante la Seconda guerra mondiale, decifrò il codice Enigma contribuendo alla sconfitta dei nazisti. Lì, dove lavorò uno dei padri dell’intelligenza artificiale, si è dunque discusso in questi giorni dei pericoli ma anche delle grandi opportunità di una tecnologia profondamente trasformativa e oggi al centro di sviluppi esponenziali.

I temi del summit mondiale sull’AI

Mettere dei paletti e dare delle regole allo sviluppo dell’intelligenza artificiale prima che sia troppo tardi per farlo: era questo l’obiettivo dichiarato dell’AI Safety Summit di Bletchley Park. Fortemente voluto dal Primo Ministro britannico Rishi Sunak, il vertice ha riunito i capi di Stato e i rappresentanti di 27 Paesi (compresa l’Italia con la Presidente Meloni) e dell’Unione europea per discutere allo stesso tavolo con alcuni dei grandi nomi delle Big Tech internazionali, tra cui Elon Musk, il fondatore di OpenAI Sam Altman, il co-fondatore di DeepMind Mustafa Suleyman e i rappresentanti delle cinesi Alibaba e Tencent.

Se la sicurezza era il filo rosso del dibattito, tante sono state le sue declinazioni affrontate seguendo il Discussion paper diffuso poco prima del summit. Si è discusso ad esempio del degrado dell’informazione e della possibile diffusione di deep fake, sempre più indistinguibili dalla realtà, creati con nuove applicazioni dell’intelligenza artificiale, in particolare con i sistemi LLM (Large Language Models), come l’ormai popolare ChatGPT. Si è parlato dei cambiamenti profondi che questa tecnologia porterà al mercato del lavoro: mutamenti non per forza peggiorativi, ma sicuramente disruptive. E ancora, si è affrontato il tema dei bias, degli stereotipi e della rappresentazione di genere sbilanciata che un sistema, nutrito dai dati di una società storicamente iniqua, non può che portare con sé. Naturalmente sono stati messi sul tavolo i temi della cyber security e dell’uso duale della tecnologia, che, se può essere (ed è già) un eccezionale acceleratore per la ricerca scientifica, può però fare altrettanto per scopi nefasti come lo sviluppo di armi chimiche e biologiche.

Infine, ci si è interrogati su quello che è probabilmente l’argomento più inquietante quando si parla di AI: il cosiddetto “rischio esistenziale”, che parte da una progressiva perdita del controllo umano su una tecnologia sempre più autonoma.

Tutti ottimi motivi, insomma, per non lasciare lo sviluppo dell’intelligenza artificiale “al caso, all’incuria o in mano ai soli attori privati”, come ha dichiarato in apertura del summit Michelle Donelan, Segretaria di Stato britannica per la scienza, l’innovazione e la tecnologia.

Cosa dice la Dichiarazione di Bletchley

Conclusosi il 2 novembre in serata, il summit londinese ha quindi raggiunto quello che il Primo Ministro Sunak ha definito un risultato storico: il “primo accordo a livello mondiale” che mira a identificare i pericoli per la sicurezza derivanti dall’Intelligenza Artificiale e a sviluppare “delle politiche basate sul rischio in tutti i Paesi” firmatari. 

Il testo di quella che è stata battezzata la Dichiarazione di Bletchley è però, in realtà, un documento di intenti molto generico, che mette nero su bianco le preoccupazioni più diffuse riguardo agli sviluppi della nuova tecnologia e l’impegno dei Paesi firmatari a collaborare per un approccio responsabile: di sicuro un primo passo che si attendeva, ma niente di vincolante.

La Dichiarazione esordisce, dunque, enunciando le “enormi opportunità globali” offerte dall’AI, che “ha il potenziale per trasformare e migliorare il benessere dell’umanità, la pace e la prosperità”. Ma subito dopo avverte che “per il bene di tutti, l’intelligenza artificiale dovrebbe essere progettata, sviluppata, implementata e utilizzata in modo sicuro, lavorando perché sia una tecnologia human-centred, affidabile e responsabile”.

Si pone poi l’accento sull’urgenza di una regolamentazione, dal momento che “i sistemi di intelligenza artificiale sono già utilizzati in molti ambiti della vita quotidiana, tra cui le abitazioni, il lavoro, i trasporti, l’istruzione, la sanità, l’accessibilità e la giustizia, e il loro uso è destinato a crescere”. I problemi più immediati riguardano la privacy e la protezione dei dati e, come si diceva, il rafforzamento di determinati bias e pregiudizi e la distorsione delle informazioni.

Ci sono però altri pericoli meno prevedibili legati alle nuove frontiere dell’AI, ovvero ai sistemi con capacità sempre più avanzate che progrediscono di giorno in giorno. Su questi si concentra in particolar modo l’attenzione del documento firmato a Bletchley. “Siamo particolarmente preoccupati da tali rischi – si legge nella Dichiarazione – in settori quali la sicurezza informatica e la biotecnologia, nonché laddove i sistemi di intelligenza artificiale di frontiera possono amplificare problemi come la disinformazione. Esiste il rischio di danni gravi, persino catastrofici, deliberati o involontari, derivanti dalle capacità più significative di questi modelli di intelligenza artificiale. Dato il tasso di cambiamento rapido e incerto dell’AI, e nel contesto dell’accelerazione degli investimenti nella tecnologia, affermiamo che approfondire la nostra comprensione di questi rischi potenziali e delle azioni per affrontarli è particolarmente urgente”.

I firmatari si impegnano allora a “lavorare insieme in modo inclusivo”, a promuovere la cooperazione e a discutere nei forum dedicati al tema. E incoraggiano tutti gli attori del settore ad essere “trasparenti e responsabili” e a “misurare, monitorare e mitigare le capacità potenzialmente dannose e gli effetti associati che potrebbero emergere”. Si esortano poi i Paesi a promuovere delle proprie politiche nazionali sul tema e ci si impegna a “sostenere una rete inclusiva a livello internazionale di ricerca scientifica sulla sicurezza dell’AI di frontiera, che comprenda e integri la collaborazione multilaterale, plurilaterale e bilaterale esistente e nuova”.

“Non ci sarà nulla di più trasformativo per il futuro dei nostri figli e nipoti dei progressi tecnologici come l’intelligenza artificiale. Abbiamo perciò il dovere nei loro confronti di garantire che l’AI si sviluppi in modo sicuro e responsabile, affrontando i rischi che comporta ora che siamo ancora all’inizio”, ha dichiarato Rishi Sunak in conclusione del summit.
Il prossimo vertice si terrà nel 2024 a Parigi ma, vista la velocità di sviluppo dell’AI, si spera che i buoni propositi espressi a Bletchley si concretizzino prima di allora. Come ha commentato la Presidente della Commissione europea Ursula von der Leyen, “siamo all'alba di un'era in cui le macchine possono agire in modo intelligente. L’augurio per i prossimi cinque anni è dunque di imparare dal passato e agire velocemente!".

SEGUI MATERIA RINNOVABILE SU GOOGLE NEWS

Immagine: Aideal Hwa, Unsplash