Roma, 11 set. (askanews) – Ricercatori impegnati su virus ad alto rischio, tossine e studi “gain-of-function”, volti a modificare o potenziare determinate caratteristiche biologiche di un virus, hanno utilizzato i modelli di intelligenza artificiale Claude per attività che potrebbero teoricamente contribuire allo sviluppo di armi biologiche. E’ quanto emerge da un nuovo rapporto di Anthropic, che ha individuato cinque casi di possibile uso pericoloso dei propri sistemi e ha bloccato gli account coinvolti. La società precisa tuttavia di non avere elementi per affermare che gli scienziati avessero effettivamente intenzione di produrre armi biologiche.
Il rapporto, “Detecting and countering misuse of AI: September 2026”, individua nel possibile uso dell’Ia in campo biologico uno dei rischi più gravi legati ai modelli di frontiera. Secondo Anthropic, i sistemi di ultima generazione sono ormai in grado di assistere attività scientifiche complesse a un livello tale che non è più possibile escludere che possano fornire un contributo significativo anche a ricerche pericolose.
Il problema è soprattutto quello del “dual use”: le stesse conoscenze utili per sviluppare vaccini e terapie possono essere impiegate per rendere un agente patogeno più pericoloso. “Non è che qualcuno, come in un fumetto, dica: ‘Ehi, voglio costruire un’arma biologica per uccidere tutti’”, ha spiegato al New York Times Jacob Klein, responsabile della threat intelligence di Anthropic. “E’ una situazione incredibilmente sfumata”.
Il caso considerato più preoccupante risale a maggio. I sistemi di sicurezza di Anthropic hanno bloccato una richiesta di assistenza per preparare una domanda di finanziamento relativa a uno studio “gain-of-function” che puntava a modificare determinate caratteristiche biologiche del virus chikungunya. La ricerca mirava a individuare mutazioni capaci di modificarne la trasmissibilità e la capacità di eludere la risposta immunitaria, per poi selezionare in animali vivi le varianti più virulente.
Un’attività che può avere finalità legittime, per esempio nello sviluppo di vaccini e terapie, ma che può anche produrre conoscenze utili a rendere un virus più pericoloso. A destare particolare preoccupazione è stato il fatto che gli esperimenti erano destinati a essere condotti presso un istituto militare di ricerca. “Quello che non sappiamo è se la ricerca fosse destinata a essere trasformata in un’arma”, ha detto Klein. “Ma un’istituzione militare che conduce ricerche gain-of-function è motivo di preoccupazione”.
Anthropic ha inoltre scoperto che i ricercatori avevano aggirato i controlli destinati a impedire l’accesso ai suoi modelli da regioni sottoposte a restrizioni e avevano cercato di mascherare la finalità delle loro attività per eludere le protezioni della società. Gli account coinvolti sono stati chiusi.
Un secondo caso riguarda un ricercatore che per diverse settimane ha utilizzato Claude per progettare studi sull’influenza aviaria altamente patogena e sull’adattamento del virus ai mammiferi. Il lavoro comprendeva anche approcci di ingegneria genetica diretti a introdurre mutazioni associate all’adattamento ai mammiferi e alla trasmissione per via aerea in modelli animali.
Nel terzo caso Claude Opus 5 è stato utilizzato attraverso una rete di accesso anonima per preparare in circa un’ora una domanda di finanziamento per ricerche sugli orthopoxvirus, famiglia che comprende anche il virus del vaiolo. Il modello ha contribuito alla formulazione dell’ipotesi scientifica, al disegno sperimentale e ai piani statistici. Anche in questo caso Anthropic sottolinea che si tratta di ricerche che possono avere finalità legittime, ma che le conoscenze sui meccanismi di evasione immunitaria possono avere applicazioni dual-use.
Gli ultimi due casi riguardano invece veleni e tossine. In uno, un ricercatore sostenuto da un programma statale ha usato Claude per costruire un archivio di peptidi derivati da veleni e un sistema capace di ottimizzarne le caratteristiche, anche verso bersagli paralizzanti. Nell’altro il modello è stato impiegato nella riprogettazione computazionale di diverse tossine nell’ambito di un programma nazionale di ricerca. In quest’ultimo caso, secondo Anthropic, il ricercatore chiese al modello di mantenere volutamente vaghe nei rapporti periodici le identità di una tossina batterica e di una proteina virale coinvolte nel lavoro.
Susan Monarez, microbiologa ed esperta di sanità pubblica che ha esaminato il rapporto prima della pubblicazione, ha affermato al Nyt che i casi forniscono prove concrete a sostegno del timore che soggetti ostili stiano cercando di utilizzare in modo occulto sistemi avanzati di Ia “per aumentare le loro possibilità di costruire agenti patogeni biologici capaci di causare danni significativi”.
L’Ia, ha osservato Monarez, offre enormi possibilità per lo sviluppo di nuove terapie e per il progresso della medicina; allo stesso tempo, però, le medesime capacità potrebbero “consentire a soggetti ostili di nascondersi in piena vista, utilizzando ricerche apparentemente legittime per creare agenti patogeni che potremmo non vedere arrivare e che potremmo non essere in grado di fermare una volta rilasciati”.
Andrew Weber, senior fellow del Council on Strategic Risks ed ex responsabile dei programmi di difesa nucleare, chimica e biologica del Pentagono, ha definito i casi descritti da Anthropic “esempi agghiaccianti di sviluppatori di armi biologiche sponsorizzati da Stati che attingono alle capacità in rapido progresso” dei modelli di Ia più avanzati.
Secondo Weber, proprio l’esistenza di programmi di armamento biologico rende necessario limitare l’accesso agli strumenti di Ia più potenti nel settore biologico a ricercatori affidabili. “Il fatto che Russia, Cina e Corea del Nord continuino a sviluppare armi biologiche proibite rende imperativo negare ai loro ricercatori l’accesso a questi modelli straordinariamente capaci”, ha affermato.
Anthropic avverte comunque che i cinque episodi non dimostrano l’esistenza di imminenti attacchi biologici facilitati dall’Ia e che non è stato possibile stabilire se le ricerche avessero realmente una finalità militare offensiva. Mostrano però, secondo la società, che la crescente capacità dei modelli di assistere ricerche scientifiche complesse rende sempre più difficile distinguere tra attività legittime e attività potenzialmente pericolose, imponendo controlli più severi sull’accesso agli strumenti più avanzati.