I grandi produttori di intelligenza artificiale accelerano lo sviluppo e chiedono alla politica di limitarne i rischi

Stefano Zamagni su Avvenire richiama l’attenzione sul paradosso dei grandi produttori di intelligenza artificiale che, mentre accelerano lo sviluppo di sistemi sempre più potenti, chiedono alla politica di limitarne i rischi. Gli allarmi lanciati anche da esponenti di OpenAI e Anthropic riflettono preoccupazioni sulla sicurezza e sul controllo delle nuove tecnologie. Ma la competizione tra Stati Uniti e Cina rende difficile rallentare unilateralmente l’innovazione. Secondo Zamagni, nessun laboratorio ha ancora risolto il problema dell’allineamento dell’IA alle intenzioni umane, mentre crescono i rischi di manipolazione, criminalità informatica e impiego incontrollato degli algoritmi. Zamagni collega questi sviluppi all’affermazione dell’ideologia transumanista e postumanista, sostenuta da settori della Silicon Valley, che attribuisce alla tecnologia capacità potenzialmente illimitate e tende a sostituire il giudizio morale con il potere degli algoritmi. Ne deriverebbe una concezione oligarchica del capitalismo, nella quale il progresso tecnologico viene anteposto alla democrazia e alla tutela dei soggetti vulnerabili. L’autore critica questa visione e sottolinea l’inadeguatezza delle attuali forme di regolamentazione. L’autodisciplina delle imprese può essere utile, ma la definizione delle regole deve spettare anzitutto alla politica democratica e alla società civile organizzata, la cui capacità di intervento non cresce alla stessa velocità della potenza tecnologica. Zamagni indica quindi la necessità di nuove garanzie a tutela della persona, richiamando il progetto di un Codex Humanitatis e il principio dell’habeas mentem, volto a proteggere la libertà di pensiero dalle manipolazioni tecnologiche. Il rischio è che si producano nuove disuguaglianze tra chi potrà potenziare le proprie capacità mentali e chi ne resterà escluso. Richiamando l’insegnamento di Leone XIV, conclude che la Chiesa deve contribuire a difendere la dignità umana, ponendo limiti esterni al potere economico e tecnologico. La risposta deve fondarsi sulla cooperazione e sulla sussidiarietà, affinché il progresso tecnico non finisca per subordinare a sé la persona.