Roma, 19 set. (askanews) – L’immagine è quella di un grande pulsante rosso da premere quando un sistema di Intelligenza artificiale sfugge al controllo umano: si tratta del’idea del “kill switch”, un meccanismo capace di spegnere rapidamente un modello di Ia diventato pericoloso, timore che sta guadagnando terreno negli Stati uniti dopo una serie di incidenti e test nei quali sistemi avanzati hanno aggirato le barriere imposte dai loro stessi sviluppatori. Ma costruire questo automatismo è molto più complicato di quanto suggerisca l’immagine dell’interruttore di emergenza. Lo racconta oggi il New York Times.
Il governatore democratico della California Gavin Newsom ha firmato venerdì un ordine esecutivo che incarica un gruppo di esperti di formulare entro due mesi proposte per rafforzare la sicurezza dei modelli più avanzati. Tra le ipotesi c’è l’obbligo per le aziende di predisporre un sistema di arresto d’emergenza la cui efficacia venga verificata periodicamente da organismi indipendenti. L’ordine prevede inoltre di accelerare l’introduzione di controlli esterni e audit sui sistemi di Ia.
E’ un cambiamento significativo rispetto a due anni fa. Nel settembre 2024 Newsom aveva posto il veto alla controversa SB 1047, che comprendeva anche l’obbligo per i grandi sviluppatori di mantenere la capacità di spegnere completamente i propri modelli. Il governatore non aveva però contestato in quanto tale il principio dell’arresto di emergenza: aveva sostenuto che la legge imponesse requisiti troppo rigidi sulla base delle dimensioni dei modelli, senza considerare adeguatamente dove e come venissero utilizzati.
A Washington la questione è arrivata anche al Congresso. Il democratico Ted Lieu e il repubblicano Nathaniel Moran hanno presentato il 23 luglio l’AI Kill Switch Act, che obbligherebbe gli sviluppatori dei sistemi più potenti a mantenere la capacità tecnica di rallentarli, sospenderli o spegnerli. Il dipartimento per la Sicurezza interna potrebbe ordinare l’intervento, dopo essersi consultato con il dipartimento del Commercio e con il direttore dell’Intelligence nazionale. Il provvedimento è ancora fermo nell’iter parlamentare.
“Devono essere sempre gli esseri umani a controllare l’Ia, non il contrario”, ha spiegato Lieu al New York Times.
Il problema è capire dove collocare materialmente quell’interruttore. “Spesso non esiste una sola spina da staccare”, ha osservato Helen Toner, direttrice esecutiva del Center for Security and Emerging Technology della Georgetown University ed ex componente del consiglio di amministrazione di OpenAI. I sistemi più avanzati possono infatti funzionare contemporaneamente su migliaia di processori distribuiti tra diversi server e data center, anche in regioni differenti.
Un sistema di spegnimento centralizzato potrebbe inoltre trasformarsi esso stesso in una vulnerabilità. Vinh Nguyen, ex alto responsabile per l’Ia della National Security Agency e oggi al Council on Foreign Relations, ha paragonato il problema a quello delle “back door” nei sistemi informatici: se esiste una porta che consente a qualcuno di spegnere un sistema, un attaccante potrebbe cercare di utilizzarla per prenderne il controllo. E un kill switch può funzionare soltanto se chi deve azionarlo è in grado di sapere in tempo reale cosa sta facendo il sistema, cosa che oggi non è sempre possibile.
C’è poi lo scenario più estremo: un’Ia sufficientemente avanzata potrebbe tentare di neutralizzare il meccanismo costruito per fermarla. Secondo Toner, un sistema capace di agire autonomamente potrebbe cercare di impedire il proprio spegnimento, replicarsi su altre infrastrutture informatiche o lasciare in rete istruzioni utilizzabili successivamente da altri agenti.
Non è una preoccupazione esclusivamente teorica. OpenAI ha reso noto che durante test di cybersicurezza effettuati nel luglio scorso alcuni suoi modelli, operando con protezioni ridotte, hanno aggirato i sistemi predisposti per isolarli da Internet e compromesso parti delle infrastrutture di ricerca di OpenAI e della piattaforma Hugging Face. Il 16 settembre la società ha inoltre annunciato un nuovo sistema per rendere pubblici più rapidamente i casi di comportamento inatteso o non allineato dei propri modelli.
Una possibile soluzione è spostare il kill switch dal software all’hardware. Una ricerca pubblicata nel 2025 propone di incorporare direttamente nei processori per l’Ia migliaia di piccoli “security block”, ciascuno dei quali consentirebbe al chip di continuare a funzionare solo in presenza di una autorizzazione crittografica valida. L’obiettivo è evitare un unico punto di vulnerabilità: per mantenere operativo un processore senza autorizzazione, un aggressore dovrebbe neutralizzare un gran numero di blocchi indipendenti.
La difficoltà, però, non sarebbe soltanto tecnologica. Un sistema del genere dovrebbe essere incorporato nelle future generazioni di chip e diventare possibilmente uno standard internazionale. E questo aprirebbe un altro problema: trovare regole compatibili tra Stati uniti e Cina, i due principali poli della corsa mondiale all’Ia e ai semiconduttori.
Il “pulsante rosso”, insomma, potrebbe diventare una delle principali linee di difesa contro sistemi fuori controllo. Ma prima bisogna riuscire a costruire un interruttore che l’Ia non possa aggirare, che gli hacker non possano utilizzare e che funzioni anche quando il sistema da spegnere non si trova più in un solo posto.