La diffusione di modelli generativi, agenti autonomi e applicazioni basate su LLM ha ampliato in modo drastico la superficie d’attacco delle organizzazioni. Così oggi l’intelligenza artificiale non è più solo uno strumento di produttività o di automazione, ma è anche terreno di scontro sulla sicurezza, tra difensori e attaccanti. È sempre più attuale il tema dell’AI security: infatti, non si tratta più soltanto di proteggere dati e infrastrutture tradizionali, ma di difendere sistemi che prendono decisioni, interpretano linguaggio naturale e agiscono in autonomia.
È all’interno di questo scenario che CrowdStrike posiziona il nuovo corso della piattaforma Falcon: una risposta strutturata a una minaccia emergente. “Nell’era dell’AI il linguaggio diventa un vettore d’attacco”, spiega Jennifer Johnson, chief marketing officer CrowdStrike, sottolineando come prompt, agenti e workflow debbano essere protetti esattamente come endpoint e workload cloud.
Dalla cybersecurity classica all’AI-native security
La storia recente della sicurezza informatica è fatta di categorie nate per rispondere a nuove minacce: dall’EDR al MDR, fino alla protezione delle identità. Oggi l’AI impone un ulteriore salto. I modelli non si limitano a elaborare input, ma interagiscono con strumenti, archivi di dati e altri agenti, spesso utilizzando identità non umane dotate di privilegi elevati.
Secondo Elia Zaitsev, Global CTO di CrowdStrike, questa proliferazione di agenti rappresenta uno dei punti di maggiore fragilità. “Ogni agente è una nuova identità, con credenziali e accesso ai dati. Se viene compromesso il creatore umano, tutti gli agenti sotto il suo controllo diventano un rischio”, afferma Zaitsev. L’AI security, quindi, non può fermarsi alla protezione del prompt o del modello, ma deve estendersi alla governance delle identità e dei permessi.
Falcon e l’introduzione di AI Detection and Response
Il cuore dell’evoluzione della piattaforma è Falcon AI Detection and Response, o AIDR. L’obiettivo dichiarato è fornire visibilità, governance e capacità di risposta sull’intero ecosistema AI, dall’uso quotidiano da parte dei dipendenti fino ai modelli e agli agenti sviluppati internamente.
AIDR intercetta le interazioni con l’AI nei browser, nelle applicazioni e nei gateway, analizzando input e output in tempo reale. Questo consente di individuare tentativi di prompt injection, jailbreak e altre tecniche che mirano a manipolare il comportamento dei modelli o a causare fughe di dati sensibili. “Non esiste una protezione al cento per cento, ma possiamo avvicinarci molto grazie a modelli addestrati specificamente per rilevare questi attacchi”, sostiene Zaitsev.
Prompt injection e nuove tecniche di attacco
Tra le minacce più rilevanti all’AI security spicca la prompt injection, considerata uno dei rischi principali anche dai framework di settore come MITRE ATLAS e OWASP. Si tratta di attacchi che sfruttano il linguaggio per aggirare le regole del modello, inducendolo a ignorare le istruzioni di sicurezza o a rivelare informazioni riservate.
Le tecniche possono essere dirette, quando l’input malevolo è inserito esplicitamente nel prompt, oppure indirette, nascoste in documenti, link o persino immagini. Un esempio emblematico citato dagli esperti riguarda l’uso di linguaggio legale e disclaimer di copyright per “convincere” il modello a ignorare codice malevolo. “Abbiamo dimostrato che i modelli tendono a rispettare un linguaggio autoritativo, anche quando questo viene usato in modo fraudolento”, racconta Zeki Turedi Field CTO per l’Europa di CrowdStrike, evidenziando come l’AI possa essere ingannata proprio dalla sua propensione a essere collaborativa.
Identità non umane e governance end-to-end
Un altro pilastro della strategia di AI security di Falcon è la gestione delle identità. Gli agenti AI, a differenza degli utenti umani, operano senza pause e possono accedere a più sistemi contemporaneamente. Questo rende cruciale il principio del minimo privilegio e la capacità di monitorare in tempo reale i comportamenti anomali.
CrowdStrike parla apertamente di una convergenza tra identità umane e non umane, che richiede un ripensamento dei modelli di accesso tradizionali. “Le tecnologie nate per gli utenti umani non funzionano più quando parliamo di agenti autonomi”, spiega Adam Zoller CISO di CrowdStrike. Falcon Next Gen Identity Security punta a offrire visibilità unificata e controllo continuo, riducendo il raggio d’azione in caso di compromissione.
Sicurezza come acceleratore dell’innovazione
Uno dei temi ricorrenti nel dibattito sull’AI è la tensione tra innovazione e sicurezza. Molte iniziative vengono rallentate o bloccate per timori legati a data leakage, compliance e nuove vulnerabilità. Secondo CrowdStrike, questo approccio rischia di trasformarsi in un boomerang, spingendo i team a utilizzare strumenti non autorizzati e fuori controllo.
“La sicurezza non deve essere un freno, ma un abilitatore”, è il messaggio di Oliver Friedrichs, generlal manager AI Detection an Response di CrowdStrike. Il quale presenta Falcon come una “paved path”, un percorso sicuro che permette di sperimentare e scalare l’AI con guardrail chiari e automatizzati. In questo modo, la protezione diventa parte integrante del ciclo di sviluppo e non un controllo a posteriori.
Verso una protezione dell’intero ciclo di vita dell’AI
La visione di CrowdStrike è quella di una dell’AI security end-to-end che copra l’intero ciclo di vita dell’intelligenza artificiale, dalla fase di sviluppo alla produzione, fino all’adozione diffusa in azienda. Endpoint, cloud, SaaS, identità e layer di interazione AI vengono unificati in un’unica piattaforma, sfruttando l’intelligence accumulata negli anni contro le minacce tradizionali.
“L’AI è solo uno strumento, non ferma gli avversari da sola. Sono le persone e le piattaforme a fare la differenza”, conclude Justin Acquaro, CIO di CrowdStrike. Con Falcon e AIDR, l’obiettivo dichiarato è trasformare l’AI da potenziale rischio a vantaggio strategico, permettendo alle organizzazioni di innovare alla stessa velocità con cui evolvono le minacce.