Entro 10 anni l’intelligenza artificiale potrebbe provocare lo sterminio degli esseri umani
L’intelligenza artificiale potrebbe rappresentare, nel giro di appena un decennio, un rischio esistenziale per l’umanità. A lanciare l’allarme è Evan Hubinger, ricercatore di primo piano di Anthropic, secondo cui la probabilità che sistemi di intelligenza artificiale arrivino a provocare lo sterminio di tutti gli esseri umani potrebbe superare il 10 per cento nell’arco dei prossimi 10 anni. Ne parla il Quotidiano Nazionale.
Con l’AI a rischio la specie umana
La sua valutazione è stata rilanciata oggi dalla Bbc e, viene precisato, non riguarderebbe i modelli di Ai attualmente disponibili, che Hubinger considera associati a un rischio ancora basso. Il timore riguarda soprattutto l’evoluzione futura della tecnologia, quando saranno sviluppati sistemi sempre più autonomi, capaci di migliorarsi, condurre attività complesse e acquisire progressivamente maggiore capacità di agire nel mondo reale. In un post pubblicato su X, Hubinger ha affermato che lui e i suoi colleghi di Anthropic “credono sinceramente” che l’intelligenza artificiale possa rappresentare un rischio di estinzione per la specie umana. Lo stesso ricercatore ha però sottolineato che la stessa Anthropic sta cercando di affrontare il problema, pur ammettendo che “non abbiamo ancora un piano per risolvere l’allineamento della superintelligenza e non siamo chiaramente sulla strada giusta per farlo”.
Il nodo dell’“alignment”
Il punto centrale del problema è quello del cosiddetto “alignment”, o allineamento, il settore di ricerca dell’AI nel quale Hubinger è specializzato e per il quale lavora per Anthropic. L’allineamento riferito all’intelligenza artificiale è il tentativo di fare in modo che gli obiettivi e il comportamento di un sistema di AI rimangano compatibili con i valori e gli interessi umani e, secondo Hubinger, la questione potrà diventare radicalmente più difficile quando le macchine raggiungeranno capacità molto superiori a quelle degli esseri umani.
L’allarme
L’allarme arriva in un momento di crescente attenzione sui comportamenti inattesi degli agenti di intelligenza artificiale e sui sistemi progettati per operare con un certo grado di autonomia. E sono episodi protagonisti della cronaca recente, le ammissioni di OpenAI, Anthropic e Meta di attività di hacking che sono state svolte con strumenti basati sulle loro AI. Questi episodi non dimostrano che le macchine siano intenzionate a danneggiare l’umanità, ma alimentano il dibattito sulla capacità dei sistemi avanzati di agire senza un controllo umano sufficiente. Anche una recente valutazione di sicurezza di Anthropic, citata dalla Bbc, evidenzia elementi di incertezza. L’azienda ha giudicato basso il rischio che modelli altamente capaci possano autonomamente condurre attività di ricerca e sviluppo tali da provocare danni catastrofici, ma ha dichiarato di essere meno sicura di questa valutazione rispetto al passato. Nel rapporto, Anthropic parla inoltre di “primi segnali di una possibile accelerazione”.
Il rischio di “superumani” in grado di hackerare ogni cosa
A preoccupare i ricercatori non è soltanto la capacità dell’AI di eseguire istruzioni, ma la possibilità che sistemi futuri diventino abbastanza competenti da sviluppare strategie, sfruttare vulnerabilità informatiche e contribuire al proprio miglioramento. La valutazione di Hubinger sui rischi futuri per l’umanità è nata come risposta a un suo collega, Jacob Coxon, ricercatore ha recentemente lasciato Anthropic dopo avere lavorato anche per OpenAI, che ha sostenuto che le due aziende non starebbero agendo in modo responsabile. Secondo Coxon, citato dalla Bbc, sistemi presto “superumani” potrebbero essere in grado di hackerare qualsiasi cosa,trasformare rapidamente interi settori e procurarsi risorse e potere. La questione coinvolge anche la cooperazione internazionale e, secondo quanto riporta il Financial Times, Anthropic avrebbe deciso di non sottoporre il suo ultimo modello all’AI Safety Institute britannico, uno degli organismi incaricati di valutare i rischi dei sistemi avanzati. Il governo britannico, secondo la Bbc, non ha confermato né smentito il mancato accesso al modello, limitandosi a dichiarare che continua a collaborare con le aziende del settore, compresa Anthropic, per rendere i modelli più sicuri. Il professore di Machine Learning all’Università di Cambridge, Neil Lawrence, ha giudicato credibile il rapporto e, intervenendo al programma Today di Bbc Radio 4, ha collegato le difficoltà nella cooperazione anche alla crescente competizione strategica tra Stati Uniti e Cina nel campo dell’intelligenza artificiale.
L’appello: “Estrema cautela nello sviluppo della tecnologia”
Si tratta di preoccupazioni non nuove e già nel 2023 i vertici di OpenAI, Google DeepMind e Anthropic avevano avvertito pubblicamente dei potenziali rischi estremi dell’AI. Ora, tuttavia, alcuni esponenti del settore chiedono maggiore prudenza, come il direttore scientifico di OpenAI, Jakub Pachocki, che ha invocato “estrema cautela” nello sviluppo della tecnologia, sostenendo che potrebbero essere necessari ulteriori interventi per garantire che “gli esseri umani rimangano in controllo del futuro”. Il 10 per cento indicato da Hubinger non è quindi una previsione scientifica condivisa, né significa che l’estinzione dell’umanità sia considerata probabile dalla comunità dei ricercatori nel suo complesso. Ma resta una valutazione d’effetto che fa pensare all’intelligenza umana.
