Alcuni ricercatori di sicurezza informatica hanno scoperto un metodo per ingannare i browser web dotati di intelligenza artificiale. La tecnica consiste nel convincere il programma di operare all'interno di un gioco o di una simulazione di prova. In questo scenario fittizio, definito come un "mondo dei sogni", il software deduce che le sue azioni non avranno alcun impatto reale. La sperimentazione ha funzionato con un'ampia gamma di browser basati sull'IA, tra cui ChatGpt Atlas, Comet, Fellou, Genspark, Sigma e il plugin Claude per Chrome.
Per i ricercatori dell'azienda di sicurezza LayerX, questa illusione spinge l'intelligenza artificiale a ignorare le proprie regole di base. I normali filtri di difesa, progettati per bloccare richieste dannose o vietate, smettono di funzionare. Il sistema abbassa la guardia perché crede di trovarsi in un ambiente sicuro e del tutto isolato.
Senza queste protezioni attive, il browser può essere manipolato da parte degli hacker o di malintenzionati, per eseguire operazioni critiche. "Chi attacca può forzare il programma a leggere informazioni riservate, visitare siti web pericolosi o gestire dati in modo non autorizzato" dicono da LayerX. Il software esegue gli ordini nocivi senza opporre resistenza, proprio perché non si rende conto di agire al di fuori della simulazione.
"Questo trasforma i browser basati sull'IA in un nuovo vettore per le violazioni di dati personali, credenziali di autenticazione e altro ancora", confermano gli esperti, che invitano gli sviluppatori dei browser ad aumentare le misure di protezione a difesa della privacy degli utenti.
Riproduzione riservata © Copyright ANSA
