Il ceo di Anthropic lancia un appello: “Rallentiamo il ritmo con cui miglioriamo le capacità dell’intelligenza artificiale”

Il ceo di Anthropic Dario Amodei ha lanciato un drammatico appello alle compagnie di IA a rallentare il processo di sviluppo dell’intelligenza artificiale, evocando rischi per l’umanità. In un testo pubblicato sul suo sito, il ceo italoamericano ha detto di essere preoccupato per la capacità di controllare modelli di Ia capaci di auto-migliorarsi.

«Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di Ia. I progressi continueranno comunque a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo», ha scritto.

Le sue parole arrivano pochi giorni dopo le dimissioni di un ricercatore di Anthropicche aveva messo in guardia dal rischio che l’intelligenza artificiale possa sfuggire al controllo e “distruggere” l’umanità nel giro di un decennio. Jacob Coxon che aveva lavorato anche per OpenAI, rivale di Anthropic, aveva spiegato come le aziende fossero ormai più concentrate a battere la concorrenza che a garantire la sicurezza. Il messaggio lascia immaginare come l’appello di Amodei sia destinato a cadere nel vuoto. Nessuno vuole rallentare in questa corsa ad arrivare primi. Il dibattito sulla sicurezza arriva dopo le rivelazioni secondo cui l’Iran avrebbe usato i modelli di Anthropic per scopi militari.Teheran avrebbe sfruttato modelli sviluppati da Claude, il programma di IA della compagnia californiana, per individuare posizioni di navi, personale militare e aerei statunitensi. In un raid iraniano in una base Usa in Giordania, sono stati uccisi tre soldati americani. Non è stato confermato il legame diretto, ma resta una coincidenza sospetta.