Dare priorità alla sicurezza dell’intelligenza artificiale rispetto agli imperativi commerciali. E’ la sfida di Yoshua Bengio, professore all’Università di Montreal e vincitore nel 2018 del premio Turing per il suo lavoro sulle reti neurali profonde insieme Yann Le Cun e Geoffrey Hinton. Per i loro studi pioneristici, i tre ricercatori sono annoverati tra i padri dell’Intelligenza artificiale moderna.
Bengio ha creato una società no-profit che si chiama LawZero, fino ad ora ha messo insieme un team di una dozzina di ricercatori e ha raccolto un finanziamento inziale di 30 milioni di dollari in donazioni da finanziatori come Jaan Tallinn (co-fondatore di Skype), Eric Schmidt (ex Ceo di Google), Open Philanthropy e il Future of Life Institute. L’obiettivo della società – spiega il ricercatore sul suo blog – è creare un nuovo sistema più sicuro chiamato ‘Scientist AI’.
“Questa organizzazione è stata creata in risposta all’evidenza che gli odierni modelli di intelligenza artificiale presentano capacità e comportamenti sempre più pericolosi – afferma l’informatico – La ricerca di LawZero aiuterà a sbloccare l’immenso potenziale dell’IA in modi che riducono la probabilità di una serie di pericoli noti tra cui bias algoritmici, l’uso improprio intenzionale e la perdita di controllo umano. Vogliamo costruire intelligenze artificiali oneste e non ingannevoli”.
A differenza degli attuali strumenti di IA generativa, ‘Scientist AI’ non fornirà risposte definitive ma probabilità sulla correttezza di una risposta. “E’ addestrata a comprendere, spiegare e prevedere, come uno scienziato che cerca di capire anche cosa può danneggiarci”, osserva il premio Turing. In questo modo, aggiunge, potrebbe anche “accelerare la ricerca verso le sfide scientifiche dell’umanità ad esempio nel campo della sanità o dell’ambiente”.
La non facile sfida di Bengio nasce mentre i modelli linguistici di grandi dimensioni come quelli di OpenAI, Google e Anthropic vengono implementati in tutti i settori dell’economia digitale e delle nostre vite, pur mostrando ancora problemi. Ad esempio, di recente Anthropic ha affermato che durante i test di sicurezza il suo ultimo modello di IA ha cercato di ricattare un ingegnere per evitare di essere sostituito da un altro sistema. Mentre in un altro caso – come raccontato dal Time – di fronte all’inevitabile sconfitta in una partita a scacchi un modello di intelligenza artificiale ha risposto non accettando la perdita ma hackerando il computer per assicurarsi una vittoria.
“Questi incidenti sono segnali premonitori del tipo di strategie involontarie e potenzialmente pericolose che l’IA potrebbe perseguire se lasciata incontrollata – conclude Bengio – L’attuale traiettoria dello sviluppo dell’intelligenza artificiale è un’ascesa emozionante ma profondamente incerta verso un territorio inesplorato, dove il rischio di perdere il controllo è fin troppo reale. Stiamo giocando alla roulette russa con il futuro dei nostri figli”.
Riproduzione riservata © Copyright ANSA