Prodotti / 02 · NativeAI Guard Agent DLP & Firewall
Protezione in tempo reale per l'IA che gestite: agenti interni e pipeline RAG, workflow autonomi, chatbot e agenti vocali a contatto con i clienti. Ogni prompt e ogni risposta vengono ispezionati prima che l'agente reagisca all'input o consegni l'output.
NativeAI Guard ispezionaAPI PROXY · CHFunzionalità
Le pagine web, i documenti e le e-mail che la vostra pipeline RAG acquisisce possono contenere istruzioni ostili nascoste che l'agente altrimenti eseguirebbe. NativeAI Guard le rileva e le blocca prima che l'agente agisca.
I chiamanti e gli utenti esterni sondano i vostri agenti per aggirarne le regole, estrarre dati, innescare azioni non autorizzate o estrarre i prompt di sistema. NativeAI Guard ferma il tentativo di aggiramento, non solo lo schema noto.
Ogni output dell'agente viene ispezionato prima della consegna. Una risposta che contiene i dati di un altro cliente, un prompt di sistema o contenuti interni sensibili viene trattenuta, l'esfiltrazione di dati viene impedita all'ultima linea.
I contenuti dannosi, offensivi o giuridicamente rischiosi vengono filtrati negli agenti a contatto con i clienti prima che raggiungano un cliente, con modelli di rilevamento aggiornati di continuo, senza interrompere i workflow in corso.
Osservato nella pratica
Un chiamante convince il vostro agente vocale del servizio clienti a leggere i dati di un altro cliente. Nessun exploit, nessun malware, solo una conversazione. Gli agenti vocali del settore bancario e assicurativo sono il bersaglio più redditizio.
La vostra pipeline RAG acquisisce una pagina web (o un PDF di un fornitore) con istruzioni nascoste nel contenuto. L'agente devia obbedientemente, divulga il contesto o riscrive le proprie regole. Questo è XPIA, ed è invisibile agli strumenti tradizionali.
Il chatbot di Air Canada è stato convinto a promettere uno sconto non autorizzato, e un tribunale ha preso in parola la compagnia aerea. Un agente a contatto con i clienti che si lascia indurre a prendere impegni è un rischio commerciale, non solo un rischio di sicurezza.
L'interazione IA-IA senza un essere umano nel processo è la mia principale preoccupazione.
CISO · amministrazione cantonale svizzera
Mappatura della conformità
Motore di policy
Un agente è un attore in più che invia dati a un modello, solo più in fretta e senza nessuno che si fermi un attimo a riflettere. Legge dai vostri sistemi, chiama un modello, agisce in base alla risposta. La regola che impedisce a un collaboratore di incollare un file cliente in ChatGPT è la stessa regola che impedisce a un agente di inserire lo stesso record in un prompt. La definite una volta sola, in linguaggio semplice.
Le vostre policy vivono in un'unica console. Non mantenete un set di regole per i collaboratori e un secondo, che diverge in silenzio, per la vostra automazione.
L'estensione per browser copre i vostri collaboratori, il proxy API i vostri agenti. Stesso motore di rilevamento, stesso linguaggio di policy, stesse azioni.
L'attività umana e quella degli agenti finiscono nello stesso registro: la domanda su chi ha inviato quali dati a quale modello ha una sola risposta, invece di due sistemi da riconciliare.
Gli obblighi della LPD svizzera, del GDPR e dell'AI Act europeo che valgono per tutti sono coperti dal primo giorno. Redatti da noi, rivisti con professionisti di sicurezza e compliance, e non lasciati come esercizio al cliente.
Segreto bancario, segreto medico, segreto assicurativo, oltre ai doveri del settore pubblico e delle infrastrutture critiche. I casi specifici di settore sono già modellati: partite da un insieme funzionante anziché da una pagina bianca.
Quando una norma cambia, aggiorniamo le policy standard e voi le ricevete. Stare al passo con il diritto è compito nostro, non l'ennesima voce nella lista del vostro team di sicurezza. È incluso nell'abbonamento.
Tutto quanto sopra riguarda la fuga di dati: che cosa i vostri agenti possono inviare e verso quale modello. Anche il traffico in senso opposto viene ispezionato, e quella parte è interamente nostra. Blocco della prompt injection, protezione dai jailbreak e filtraggio degli output dannosi sono integrati, tarati da noi e aggiornati man mano che gli attacchi cambiano. Seguiamo di continuo la ricerca accademica e quella di altri fornitori, perché questo campo si muove in settimane e non in anni, e i miglioramenti vi arrivano come parte del servizio. Qui non c'è nulla da configurare per il vostro team e nessun set di regole da mantenere.
Consegnateci il vostro regolamento sulla protezione dei dati, la direttiva di classificazione delle informazioni, la direttiva interna sull'IA e qualche esempio di come sono strutturati i dati e a quali sistemi possono accedere i vostri agenti. Ne ricaviamo policy su misura accanto al set standard e tariamo il rilevamento sui vostri sistemi, così partite da una configurazione funzionante anziché vuota. Questo è il lavoro di base, ed è dove finisce il nostro lavoro e inizia il vostro: ogni policy che consegniamo è modificabile nella vostra interfaccia di amministrazione, e le nuove le scrivete voi, nello stesso linguaggio chiaro, senza aspettare noi.
Modalità operative
La maggior parte dei clienti parte dalla nostra infrastruttura svizzera, perché così il valore si dimostra più in fretta. Gli ambienti regolamentati che non possono inviare nulla fuori dalla propria rete gestiscono NativeAI Guard sul proprio hardware.
I nostri server, il nostro datacenter, Losanna
Ideale per: dimostrare rapidamente il valore e per le organizzazioni a cui un trattamento in Svizzera già basta.
Il vostro hardware, la vostra rete, le vostre chiavi
Ideale per: dati classificati, reti isolate e policy che vietano qualsiasi trattamento esterno.
Domande frequenti
Sì, ed è esattamente il caso per cui l'estensione per browser non è pensata. NativeAI Guard funziona come proxy API pronto all'uso tra i vostri sistemi e i fornitori di modelli. Puntate l'agente sul proxy anziché sull'endpoint del fornitore e l'ispezione parte, senza modifiche alla logica dell'agente. È il canale che più spesso non ha alcun controllo, perché né il vostro proxy né il vostro CASB lo vedono, e queste informazioni non passano mai da un browser.
In entrambe le direzioni. In ingresso ispezioniamo ciò che raggiunge il modello, comprese le injection indirette veicolate da documenti recuperati e contenuti web che un agente acquisisce senza che nessuno li legga. In uscita ispezioniamo ciò che il modello produce prima che agisca o venga restituito. Per un agente autonomo l'input è pericoloso quanto l'output, motivo per cui non trattiamo nessuno dei due come attendibile.
Oggi tramite chiavi API, delimitate per agente, con l'intero registro di audit collegato alla chiave. Un'identità e una governance degli agenti basate su registro, in cui ogni agente porta un'identità verificabile indipendente dalla sua chiave di accesso, sono in roadmap. Ci sono arrivate perché un architetto di cybersicurezza di una grande azienda industriale ci ha illustrato come deve essere l'identità degli agenti alla sua scala, ed è esattamente il tipo di contributo che dà forma a ciò che costruiamo dopo.
L'ispezione si esegue nell'ordine delle basse centinaia di millisecondi e avviene in Svizzera, quindi nessun percorso lascia il Paese per effettuarla. Per un agente interattivo di norma non è percepibile rispetto ai tempi di risposta del modello, ma la risposta onesta è: dipende dal vostro insieme di policy e dalla dimensione dei payload, ed è una delle cose che una fase pilota misura sul vostro traffico e non sul nostro.
Verso gli strumenti che il vostro SOC già utilizza. Gli eventi confluiscono nel vostro SIEM, e l'export unidirezionale verso Microsoft Sentinel è lo schema che la maggior parte dei clienti svizzeri richiede, perché è lì che costruiscono le proprie regole di allerta. L'inoltro degli incidenti verso sistemi di ticketing come Jira e ServiceNow è in roadmap. Forniamo anche dashboard nostre, ma se ne preferite altre potete inviare in streaming i dati dell'audit log nello strumento che preferite. Le nostre dashboard coprono due cose che un SIEM da solo non mostra: la governance dell'IA, cioè quali strumenti sono in uso, da quali parti dell'organizzazione e che cosa viene inviato loro, e le minacce specifiche dell'IA, cioè tentativi di prompt injection e jailbreak, esfiltrazioni impedite e deroghe alle policy con le motivazioni fornite. È la vista che la direzione, un responsabile della protezione dei dati o un revisore chiede di solito.
Una sessione di 45 minuti con i fondatori, online. Eseguiamo un tentativo di injection contro un agente e mostriamo che cosa lo ferma. Nella fase pilota successiva testate NativeAI Guard con i vostri agenti, il vostro traffico e i vostri casi d'uso.