Come sta cambiando la cybersicurezza con l’IA?

La cybersicurezza è sempre stata una corsa tra attaccanti e difensori. L’IA cambia questa corsa rendendo alcune attività più rapide, economiche e facili da ripetere. Questo conta per phishing, analisi malware, ricerca di vulnerabilità, attacchi all’identità, monitoraggio e risposta agli incidenti.

Per i difensori, l’IA può aiutare ad analizzare alert, riassumere incidenti, rilevare anomalie, generare query, dare priorità ai rischi e supportare team di sicurezza sommersi dai dati. Per gli attaccanti, può aiutare a scrivere messaggi convincenti, tradurre truffe, automatizzare ricognizione o adattare l’ingegneria sociale.

Il risultato non è un semplice vantaggio per una parte. Le organizzazioni devono proteggere i propri sistemi IA, usare l’IA con cautela nella difesa e prepararsi ad avversari che hanno accesso a strumenti sempre più capaci.

I team di sicurezza si affidano già ad automazione e machine learning in aree come filtro spam, rilevamento frodi, protezione endpoint, scoring del rischio identità e rilevamento anomalie. L’IA generativa aggiunge nuove capacità per riassumere evidenze, spiegare alert e aiutare gli analisti a interrogare sistemi complessi.

In un security operations center, l’IA può ridurre l’attrito. Può raggruppare alert correlati, trasformare log in riassunti leggibili, suggerire passaggi di indagine, redigere timeline di incidente e aiutare analisti junior a comprendere segnali non familiari.

Gli usi difensivi più solidi mantengono comunque gli umani in controllo. L’IA può accelerare il triage, ma azioni ad alto impatto come disattivare account, bloccare sistemi di produzione o dichiarare un incidente dovrebbero restare governate da policy, approvazioni e audit log.

L’IA può ridurre il costo di produrre messaggi di phishing convincenti, false conversazioni di supporto, truffe tradotte ed esche personalizzate. Può anche aiutare attaccanti meno esperti a scrivere script, capire messaggi di errore o automatizzare ricognizione ripetitiva.

Questo non significa che l’IA crei automaticamente attaccanti d’élite. Molti cyberattacchi dipendono ancora da credenziali rubate, sistemi non aggiornati, servizi esposti, controlli identità deboli e scarsa igiene operativa. L’IA spesso amplifica debolezze esistenti invece di sostituire l’intera catena di attacco.

L’implicazione difensiva è pratica: le organizzazioni dovrebbero aspettarsi più volume, migliore qualità linguistica e adattamento più rapido nelle campagne di ingegneria sociale. Identità forte, autenticazione resistente al phishing, detection engineering e segnalazioni degli utenti restano centrali.

Usare l’IA in un’azienda crea nuovi asset da proteggere: prompt, endpoint di modello, dati di addestramento, indici di retrieval, integrazioni con strumenti, log, dataset di valutazione e permessi degli agenti. Questi sistemi possono contenere contesto aziendale sensibile anche quando il modello sottostante è fornito da terzi.

I rischi specifici dell’IA includono prompt injection, fuga di dati, chiamate a strumenti non sicure, manipolazione del modello, dati avvelenati, output non sicuri e permessi eccessivi. Sono particolarmente importanti quando agenti IA possono leggere file, interrogare database, inviare messaggi o attivare azioni di workflow.

Proteggere i sistemi IA assomiglia quindi a una combinazione di cybersicurezza classica e governance dell’IA: controllo degli accessi, classificazione dei dati, validazione degli input, validazione degli output, monitoraggio, red teaming, risposta agli incidenti e limiti chiari su ciò che il sistema può fare.

L’IA può rendere più efficienti le operazioni di sicurezza riducendo il tempo che gli analisti passano a leggere alert rumorosi e cercare tra strumenti. Può trasformare log, ticket e intelligence sulle minacce in un punto di partenza più chiaro per l’indagine.

Ma l’IA può anche creare nuovi rischi operativi. Un riassunto sicuro può omettere un dettaglio importante. Un playbook automatizzato può agire in modo troppo aggressivo. Un modello può sbagliare la gravità di un evento. I team di sicurezza hanno bisogno di valutazione e loop di feedback, non di fiducia cieca.

Il modello migliore è l’aumento. L’IA aiuta gli analisti a muoversi più velocemente, ma gli analisti definiscono lo standard dell’indagine, validano le prove e decidono quali azioni sono appropriate per il contesto aziendale.

La domanda centrale della cybersicurezza non è solo se l’IA possa rilevare minacce. È quali dati può vedere, quali strumenti può chiamare, quali azioni può compiere e come queste decisioni vengono revisionate.

Un assistente IA collegato ai log può essere a basso rischio se riassume solo dati in sola lettura. Un agente collegato a sistemi di identità, ticketing, console cloud o repository di codice richiede controlli più forti perché gli errori possono avere conseguenze operative reali.

Per questo framework di organizzazioni come NIST sottolineano insieme la necessità di proteggere i sistemi IA, difendere con l’IA e prepararsi agli attacchi abilitati dall’IA. Trattarli come problemi separati lascia lacune.

La cybersicurezza diventerà probabilmente più assistita dall’IA su entrambi i lati. I difensori useranno agenti IA per triage, detection engineering, analisi malware, controlli di policy e coordinamento della risposta. Gli attaccanti useranno l’IA per aumentare volume, personalizzazione e velocità.

Allo stesso tempo, le basi diventeranno più importanti, non meno: inventario degli asset, patching, identità, minimo privilegio, logging, backup, segmentazione, sviluppo software sicuro e preparazione alla risposta agli incidenti.

Il futuro probabile non è una sicurezza autonoma senza persone. È un lavoro di sicurezza in cui gli umani supervisionano sistemi più rapidi, definiscono limiti, auditano azioni e si concentrano sul giudizio mentre l’IA gestisce più analisi ripetitive.