“Cervello” cesenate al lavoro sulle minacce della cyber-war

L’uso sui campi di battaglia delle nuove tecnologie, a cominciare dall’intelligenza artificiale, rischia di diventare fuori controllo, o forse lo è già. Con problemi enormi di tutti i generi, da quelli etici per il fatto di rendere le macchine sempre più indipendenti dalla volontà umana fino alle conseguenze devastanti che possono avere gli errori, che sono ineliminabili in qualunque sistema.

Cosa significhi avere armi sempre più autonome e sganciate dai comandi dati da persone in carne e ossa lo si è già toccato un paio di anni fa in Libia, quando droni turchi hanno ucciso, senza neppure piloti a distanza che avessero un ruolo diretto nel momento in cui si andavano a colpire i bersagli.

Il pericolo

Sono alcuni degli avvertimenti inquietanti che Gian Piero Siroli, cesenate che si sta impegnando per tirare il freno a un modo di fare la guerra che è sempre più pericolosamente distopico, ha lanciato nelle scorse settimane. Lo ha fatto in un incontro pubblico su “Scenari di guerra e intelligenza artificiale”, che ha tenuto alla “Rimbomba” di Bertinoro, locale gestito dall’ex consigliere comunale ed ex blogger ecologista Davide Fabbri.

L’esperto all’Onu

La sala si è riempita per ascoltare questo esperto, che sta partecipando a un percorso pluriennale in seno all’Onu, che ha attivato gruppi di lavoro specifici per cercare di condividere qualche regola comune su scala globale per contenere le minacce della cyber-war.

Fisico subnucleare, ricercatore dell’Università di Bologna e coinvolto in importanti progetti al Cern di Ginevra, Siroli fa anche parte di “Pugwash”, un’organizzazione non governativa nata per lottare per il disarmo nucleare e che nel 1995 vinse il Premio Nobel per la pace. Proprio come rappresentante di quella ong sta seguendo incontri che vedono coinvolte non solo le diplomazie degli Stati del mondo ma anche tecnici e organizzazioni varie, e quindi la cosiddetta società civile, per cercare di arginare pericoli giganteschi che incombono in modo sempre più evidente sull’umanità, a causa dell’impetuoso sviluppo tecnologico applicato al settore militare.

Speranze

In questo dialogo internazionale Siroli vede uno spiraglio per la speranza, perché - ha spiegato - «Da tre anni, al termine di quei confronti, viene approvato un documento all’unanimità, e il consenso di tutti è la condizione necessaria per far sì che possa diventare pubblico. E faccia poi da base per azioni che limitino i rischi dell’utilizzo di tecnologie sempre più incontrollate». È fondamentale, perché - ha spiegato il cervellone cesenate - è un’illusione sperare di potere, per esempio, imbrigliare l’intelligenza artificiale «mettendo filtri etici, come si è provato a fare: dopo appena tre mesi era già stato trovato il modo per aggirarli».

Estinzione sventata

Quanto il mantenimento del controllo umano sull’universo digitale sia invece essenziale Siroli lo ha evidenziando citando un caso realmente avvenuto e ancora poco noto: «Se oggi siamo qui a parlare lo dobbiamo a Petrov, il tenente colonnello sovietico che il 26 settembre 1983, mentre era di stanza in una base militare dove si monitoravano i segnali dei satelliti adibiti a individuare lanci di missili nemici con testate atomiche, ne rilevò 5 che sembravano in volo, diretti verso l’Urss. Ma analizzando quanto le macchine gli dicevano che stava accadendo, ragionando con la sua testa sul fatto che un attacco non sarebbe stato sferrato con soli 5 missili e contravvenendo ai protocolli, non comunicò la segnalazione ai superiori, evitando così una rappresaglia sovietica e una guerra atomica planetaria».

Gruppi di lavoro

Tornando ai gruppi di lavoro formati in seno all’Onu, nell’ultimo dei rapporti in cui si è faticosamente riusciti a trovare una sintesi tra le varie posizioni i Paesi hanno concordato di individuare «punti di contatto, cioè una sorta di referenti, che possano interagire in modo rapido ed efficace, usando canali di dialogo dedicati, di fronte a minacce alla sicurezza internazionale legate alla cyber-war». Un passo non da poco, e anche sorprendente, in un mondo in cui le relazioni tra gli Stati sono sempre più tese e spesso apertamente violente.