Anselmo Grotti
Può un sistema di sicurezza impedire il salvataggio? Abbiamo avuto una dura lezione sui limiti del linguaggio formalizzato. Si tratta di un caso eclatante ma poco studiato sotto questo punto di vista. Marzo 2015: un volo della compagnia German Wings precipita misteriosamente sulle Alpi. Non ci sono motivi meteorologici, strutturali, tecnici. Si consolida progressivamente la convinzione che il copilota abbia deliberatamente portato l’aereo all’impatto. Il punto che ci interessa è che il primo pilota non è potuto rientrare perché i sistemi di sicurezza non gli hanno permesso di accedere alla cabina e interrompere il folle volo verso la distruzione. Il sistema per l’accesso alla cabina era nato proprio come risposta di sicurezza del volo dopo gli attentati dell’11 settembre 2001. In quel caso il problema era rappresentato da terroristi che, imbarcatisi come passeggeri, erano poi entrati in cabina, avevano preso i comandi e portato gli aerei a schiantarsi contro le Torri Gemelle o altrove. Si pensò che la soluzione risedesse in un sistema che isolasse i piloti dal resto dell’aereo, con un complesso sistema di consenso e rifiuto all’apertura delle porte. Per farlo si è immaginato di bloccare il sistema su un rigido piano logico, che evidentemente ha trascurato una delle infinite possibilità che accadono nel mondo reale. La domanda è: la formalizzazione completa del linguaggio naturale è davvero possibile? È pensabile riuscire a prevedere ogni aspetto del reale? La capacità dei sistemi di IA diviene sempre più raffinata e sorprendente, ed è plausibile attendersi incrementi esponenziali nel futuro anche prossimo.
Il linguaggio formalizzato è un potente strumento di controllo della realtà. Ma identificare totalmente realtà e rappresentazione, per quanto formalizzata da astrofisici o genietti provenienti da Google, può portare a guai molto seri. Un aspetto fondamentale del linguaggio formalizzato sono gli algoritmi, procedure che prevedono un numero grande a piacere di regole e di dati (affidati alla potenza di calcolo di super computer), purché in un numero di passi definito. Sono tipici della fisica e della matematica, ma in epoca di “big data”, cioè di analisi raffinate di enormi mole di informazioni in tempri brevissimi, li troviamo ovunque. Un campo che ha avuto una espansione enorme è stato quella della finanza, specialmente del cosiddetto High frequency trading: acquisto e vendita frenetica (ritmi di pochi centesimi di secondo) di titoli, azioni, derivati, ecc. Nelle borse anglosassoni rappresentano ormai il 70% degli scambi, nel continente europeo siamo al 25%. Gli Hft hanno avuto un ruolo importante nel disastro finanziario del 2008, che ha portato al fallimento della grande banca Lehmann, con 8 milioni di disoccupati solo negli Usa. Ancora una volta tutto nasce dalla manipolazione del linguaggio, dall’incrocio tra la superba convinzione di avere sotto completo controllo le procedure e dalla volontà dolosa di mascherare e manipolare la rappresentazione della realtà ai propri fini.
