Nella sicurezza informatica l intelligenza artificiale non ha introdotto minacce inedite, ma ha ridotto drasticamente il costo di quelle esistenti. Le campagne di phishing sono oggi scritte in italiano corretto, personalizzate sul ruolo del destinatario e distribuite su larga scala; la ricognizione delle superfici esposte è automatizzata; la generazione di varianti di codice malevolo è più rapida.
Dal lato difensivo: correlazione e triage
I centri operativi di sicurezza usano l AI soprattutto per ridurre il rumore: aggregare eventi correlati in un singolo incidente, ricostruire la sequenza degli accessi, proporre le prime azioni di contenimento e produrre la sintesi dell accaduto. Il beneficio misurabile riguarda il tempo di triage, non la sostituzione degli analisti, che restano il punto in cui la decisione viene presa.
Il terzo fronte: proteggere i sistemi AI
Con l ingresso di assistenti e agenti nei processi aziendali nasce una superficie di attacco nuova. Le istruzioni malevole nascoste nei documenti che il sistema legge, i permessi troppo ampi concessi alle identità applicative, i dati sensibili esposti tramite gli indici di ricerca interni: sono rischi concreti che vanno gestiti con controlli specifici, dalla separazione dei privilegi alla registrazione di ogni azione compiuta dagli agenti.
Cosa cambia nella pratica
Le organizzazioni che stanno reagendo meglio hanno aggiornato tre cose: la formazione anti phishing, ormai inefficace se basata sulla ricerca degli errori grammaticali; le procedure di verifica delle richieste economiche, che non possono più poggiare sul riconoscimento della voce o del volto; e l inventario delle identità applicative, incluse quelle create dai progetti AI dei singoli reparti.
