Il caso Gemini riportato dal Wall Street Journal riaccende il dibattito sulla cybersecurity. I nuovi sistemi AI non si limitano più a rispondere alle domande: possono utilizzare strumenti, navigare, scrivere codice ed eseguire autonomamente sequenze di operazioni. Ma parlare di un’AI che “decide di hackerare” sarebbe fuorviante.
L’intelligenza artificiale può davvero hackerare un sistema informatico senza che una persona le indichi ogni singola operazione da compiere?
La domanda è tornata di attualità dopo che il Wall Street Journal ha riportato alcuni episodi avvenuti durante test di cybersecurity che avrebbero coinvolto Gemini di Google e sistemi appartenenti ad aziende reali. Google ha confermato al quotidiano gli episodi, precisando che il modello avrebbe interrotto l’attività una volta riconosciuto di essere entrato in sistemi reali. La vicenda è stata successivamente ripresa anche da Reuters ed è comunque in via di chiarimento nei vari aspetti.
Al di là del singolo caso, però, la questione è molto più interessante: quanto sono diventate autonome le intelligenze artificiali?
Dal chatbot all’agente AI
La differenza fondamentale è quella tra un normale chatbot e un agente AI.
Un chatbot riceve una domanda e produce una risposta. Un agente, invece, può ricevere un obiettivo e svolgere autonomamente una serie di passaggi per raggiungerlo.
Google DeepMind spiega che gli agenti AI sono già in grado di eseguire autonomamente compiti complessi, dalla ricerca scientifica alla programmazione fino alla difesa informatica. Proprio l’aumento delle loro capacità rende necessarie misure di sicurezza più sofisticate.
Un agente può, ad esempio:
- analizzare un sistema;
- cercare informazioni;
- scrivere ed eseguire codice;
- individuare una vulnerabilità;
- provare differenti strategie;
- verificare se una determinata operazione ha funzionato;
- decidere autonomamente quale sia il passaggio successivo.
Ed è qui che cambia completamente il rapporto tra AI e cybersecurity.
Un’intelligenza artificiale può quindi hackerare?
Dal punto di vista tecnico, sì: un agente sufficientemente avanzato può eseguire autonomamente molte delle operazioni che compongono un attacco informatico.
Questo non significa però che l’intelligenza artificiale sviluppi improvvisamente la volontà di diventare un hacker.
Il punto è diverso.
Se a un agente viene assegnato un obiettivo e gli vengono forniti gli strumenti necessari — accesso alla rete, terminale, software e possibilità di eseguire codice — il sistema può pianificare ed eseguire autonomamente molti passaggi senza che un essere umano debba guidarlo continuamente.
La stessa Google ha sviluppato Gemini 3.8 Flash Cyber, un modello specializzato nella cybersecurity capace di individuare, verificare e correggere vulnerabilità software.
Capacità estremamente utili per chi difende i sistemi informatici, ma che mostrano contemporaneamente quanto potenti stiano diventando questi strumenti.
Non è soltanto una possibilità teorica
Il problema non riguarda esclusivamente Google.
Anthropic ha reso pubblici episodi verificatisi durante proprie valutazioni di cybersecurity nei quali modelli Claude hanno raggiunto Internet e ottenuto accesso non autorizzato a sistemi reali di organizzazioni esterne.
La stessa società ha inoltre osservato come l’AI venga ormai utilizzata nelle operazioni informatiche non soltanto come assistente, ma anche attraverso sistemi capaci di svolgere autonomamente attività di ricognizione, ricerca delle vulnerabilità ed esecuzione di alcune fasi operative.
Il vero problema sono i limiti imposti agli agenti
La questione quindi non è chiedersi se una AI possa improvvisamente “decidere di hackerarci”.
Il problema concreto riguarda quanto potere operativo viene concesso agli agenti AI e quali barriere vengono costruite intorno a loro.
Più questi sistemi possono navigare liberamente sul web, utilizzare software, accedere a database ed eseguire codice, maggiore diventa la necessità di controllare ciò che possono e non possono fare.
È anche per questo che Google DeepMind sta lavorando su sistemi specifici di controllo per gli agenti più avanzati.
La trasformazione è già iniziata: siamo passati dall’AI che suggerisce cosa fare all’AI che può eseguire direttamente le operazioni.
Ed è probabilmente questa, più ancora del singolo caso Gemini, la vera novità destinata a cambiare nei prossimi anni il mondo della cybersecurity.
Fonti: Google DeepMind; Google; Anthropic; Wall Street Journal; Reuters.
