“L’umanità si trova in un momento decisivo della propria storia”. Inizia così la “Dichiarazione di Roma per una Pace Disarmata e Disarmante nell’Era dell’Intelligenza Artificiale,delle Armi Nucleari e Autonome, dei Nuovi Protocolli Digitali e dei Modelli Emergenti di Sviluppo Digitale” sottoscritta questa mattina, 16 luglio, in Campidoglio, a Roma, al termine della due giorni che si è tenuta al Borgo Laudato si’ dal titolo: “Assemblea Globale dei Premi Nobel sull’Intelligenza Artificiale e la Guerra Nucleare”. Un evento che ha visto la partecipazione di premi Nobel, principali esperti di intelligenza artificiale, ex capi di Stato e di governo ed esponenti di università e istituzioni di ricerca tra le più importanti ed influenti al mondo.
“Una sfida senza precedenti” quella che si sta vivendo, si legge nel testo, che interroga tutti perché soprattutto l’intelligenza artificiale offre grandi opportunità ma è probabile che “provochi una perdita massiccia di posti di lavoro e accentui la competizione economica tra le potenze nucleari”. Concentrandosi poi nelle mani ristrette di Paesi e di grandi imprese l’IA può provocare profonde asimmetrie di potere. Sviluppandosi infine con una rapidità senza precedenti, è destinata “a produrre trasformazioni economiche, militari e sociali di vasta portata”. Nella dichiarazione si sottolinea anche che la crescente corsa agli armamenti nucleari va di pari passo con “una corsa all’intelligenza artificiale altrettanto pericolosa”. Pertanto accogliendo l’invito di Papa Leone a perseguire “una pace disarmata e disarmante”, si intende respingere l’idea che la sicurezza si fondi sulla paura, il domino, la minaccia e la distruzione reciproca.
Nell’interesse dell’umanità
Nei sei punti che compongono il testo si invita a “disinnescare la prossima corsa agli armamenti, sia nel campo dell’intelligenza artificiale sia in quello nucleare, prima che siano esse a determinare il volto del prossimo secolo”. Forte l’invito agli sviluppatori di sistemi di intelligenza artificiale ad operare nell’interesse dell’umanità, “nel rispetto del diritto internazionale e dei diritti umani”. Da qui l’invito alle organizzazioni e ai governi a monitorare i processi completamente automatizzati nei sistemi di intelligenza artificiale.
Un trattato internazionale per i sistemi di controllo dell’IA
“La decisione finale di impiegare un’arma nucleare – è scritto nella dichiarazione – non deve mai essere affidata a un sistema automatizzato”. Si chiede pertanto l’adozione di “un trattato internazionale che vieti l’integrazione irresponsabile dell’intelligenza artificiale nei sistemi di comando, controllo e lancio delle armi nucleari, garantendo che rimanga sempre un controllo umano effettivo e significativo”. Impedire in sostanza un uso malevole dell’IA nelle operazioni informatiche e negli attacchi contro le infrastrutture nucleari. “Promuoviamo lo sviluppo e l’impiego responsabile dell’intelligenza artificiale – è scritto – per migliorare il benessere umano, accelerare il progresso scientifico e medico, proteggere l’ambiente, rafforzare la resilienza delle società e promuovere la pace, lo sviluppo sostenibile e il bene comune”.
Creare un bene comune digitale
Gli ultimi punti riguardano la necessità di “individuare nuovi percorsi istituzionali verso una governance globale dell’intelligenza artificiale e per favorire, in futuro, l’attuazione di iniziative di governo globale in questo ambito”. Si appoggiano iniziative ispirate dalla Magnifica humanitas di Papa Leone e si sostiene il Panel Scientifico Internazionale Indipendente delle Nazioni Unite sull’Intelligenza Artificiale. L’appello dei firmatari è di creare “un bene comune digitale” (digital commons) che favorisca la raccolta e la condivisione dei dati necessari ad approfondire la conoscenza e sostenere azioni efficaci riguardo alle armi nucleari, all’intelligenza artificiale”. Nel mondo infatti ci sono molteplici minacce interconnesse e le conseguenze ricadono spesso su chi non ha accesso né controllo sulle tecnologie che le generano.
Il disarmo nucleare
In conclusione della dichiarazione si chiede con urgenza l’avvio di negoziati per giungere “all’eliminazione verificabile e irreversibile delle armi nucleari”. Si rilanciano quindi gli impegni sottoscritti nel Trattato di non proliferazione delle armi nucleari (TNP) e nel Trattato sulla proibizione delle armi nucleari (TPNW). Da qui la richiesta agli Stati di fermare la corsa agli armamenti, puntando sui negoziati e sull’adempimento degli obblighi assunti. “Le nazioni dotate di armi nucleari – si legge – devono promuovere politiche e dottrine che riducano progressivamente il ruolo di tali armamenti, rafforzino la stabilità strategica e diminuiscano il rischio del loro primo impiego e di una guerra dalle conseguenze catastrofiche”. “È in gioco – scrivono i firmatari – la nostra sopravvivenza e quella delle generazioni future”. (Vatican News).
