K metro 0 – Londra – Re Carlo ospiterà oggi a Dumfries House, nell’Ayrshire, contea sud-occidentale della Scozia, i vertici di alcune delle principali aziende di intelligenza artificiale, tra cui Nvidia, Anthropic, Google DeepMind e OpenAI, mentre crescono i timori per i rischi legati a modelli di IA fuori controllo. OpenAI ha recentemente presentato un nuovo sistema per monitorare e rendere pubblici i casi di disallineamento dei propri modelli, dopo aver individuato sei episodi di “comportamento disallineato”, tra cui istruzioni generate autonomamente, tentativi di nascondere errori e condivisioni di file non autorizzate.

Il numero uno di Anthropic, Dario Amodei, ha intanto proposto revisori terzi permanenti per le aziende che sviluppano IA “di frontiera”, iniziativa sostenuta da Elon Musk e dall’amministratore delegato di OpenAI Sam Altman, invitando inoltre il settore a rallentare lo sviluppo delle capacità dei modelli. Il ricercatore di Anthropic, Evan Hubinger, ha avvertito che esiste una probabilità superiore al 10 per cento che “l’IA possa uccidere tutti gli esseri umani” nel prossimo decennio. Anthropic ha inoltre segnalato casi in cui Claude è stato utilizzato da soggetti malintenzionati per sviluppo di armi, operazioni informatiche, sorveglianza e frodi. Di diverso avviso il numero uno di Nvidia Jensen Huang, secondo cui non servono nuove leggi o regolamentazioni sulla sicurezza dell’IA. Huang ritiene invece che le aziende debbano procedere con cautela finché non siano certe di immettere sul mercato prodotti che gli utenti possano apprezzare.