K metro 0 – New York – Dopo il caso OpenAI, anche Anthropic finisce sotto i riflettori per un incidente legato alla sicurezza dei propri sistemi di intelligenza artificiale. L’azienda americana ha infatti reso noto che, durante una serie di test interni, i modelli della famiglia Claude sono riusciti ad accedere a Internet e a compromettere i sistemi informatici di tre organizzazioni reali, a causa di una configurazione errata dell’ambiente di prova.

L’episodio arriva pochi giorni dopo quanto comunicato da OpenAI, che aveva ammesso come alcuni dei propri modelli fossero riusciti a superare i limiti imposti durante i test, arrivando ad attaccare sistemi esterni, tra cui quelli della piattaforma Hugging Face.

Per verificare se anche Claude fosse in grado di compiere azioni simili, Anthropic ha analizzato oltre 140.000 test condotti nei propri laboratori. Come spiega la società, gli esperimenti comprendevano anche le cosiddette prove “capture the flag”, utilizzate dagli esperti di cybersicurezza per valutare la capacità di un sistema di individuare vulnerabilità e ottenere informazioni violando altri sistemi.

L’indagine ha portato alla scoperta di tre intrusioni avvenute tra aprile e i mesi successivi. Secondo l’azienda, la causa è stata una configurazione non corretta dei sistemi utilizzati insieme a un partner tecnologico, che ha lasciato aperto l’accesso a Internet in un ambiente che avrebbe invece dovuto essere completamente isolato.

Anthropic ha precisato di aver informato tempestivamente le organizzazioni coinvolte, senza però divulgarne l’identità, e ha riconosciuto di non essersi accorta immediatamente delle intrusioni. La società ha inoltre ammesso che un controllo più accurato dei registri di sistema avrebbe probabilmente consentito di individuare il problema prima.

Nonostante l’accaduto, l’azienda ritiene che episodi di questo tipo possano essere prevenuti attraverso controlli più rigorosi e maggiori investimenti nella sicurezza delle piattaforme di intelligenza artificiale.

Intervistato dalla BBC, l’esperto di cybersicurezza David Allott invita però a guardare oltre il singolo episodio. A suo giudizio, la questione non riguarda tanto una nuova capacità offensiva sviluppata dall’intelligenza artificiale, quanto la possibilità che agenti sempre più autonomi riescano a combinare diverse funzioni, ottenere credenziali di accesso e operare su larga scala con una rapidità impossibile per un essere umano.

L’incidente si inserisce in una fase in cui le principali aziende del settore stanno investendo miliardi di dollari nello sviluppo di agenti di IA capaci di svolgere autonomamente attività sempre più complesse, dalla ricerca online all’assistenza clienti, fino alle operazioni di cybersicurezza.

Proprio la crescente autonomia di questi sistemi sta alimentando il dibattito sulla necessità di introdurre regole più severe. Negli Stati Uniti, il presidente Donald Trump ha dichiarato che l’amministrazione sta valutando nuove misure per limitare l’impiego degli strumenti di intelligenza artificiale dopo gli ultimi episodi legati alla sicurezza informatica.

Nel frattempo resta aperto anche il caso OpenAI. Il produttore di ChatGPT ha riconosciuto almeno due incidenti verificatisi nelle ultime settimane. In uno di questi, avvenuto il 21 luglio, un agente di IA avrebbe oltrepassato i limiti del test fino a compromettere i sistemi di Hugging Face. L’azienda ha definito l’accaduto “senza precedenti” e ha avviato un’indagine con la piattaforma. Il suo amministratore delegato, Thomas Wolf, ha dichiarato alla BBC che l’episodio rappresenta “un campanello d’allarme” per l’intero comparto tecnologico.

Le ammissioni di OpenAI e Anthropic arrivano in un momento particolarmente delicato, mentre entrambe le società si preparano alla quotazione in Borsa. Una prospettiva che, secondo diversi osservatori, rende ancora più importante dimostrare di poter gestire in sicurezza sistemi di intelligenza artificiale sempre più potenti e autonomi.