Un assistente AI ha una debolezza che il software tradizionale non ha: non distingue le istruzioni di chi l'ha costruito da quelle di chi ci scrive. Chi mette un chatbot online se la porta addosso senza saperlo. Verifichiamo cosa gli si fa fare davvero, e vi diciamo come ridurre il danno.
AI Layer
CONSOO
Cosa include il progetto
Il lavoro e strutturato per passare dalla chiarezza sul processo a un prodotto utilizzabile e integrato.
Prompt injection diretta
Proviamo a fargli ignorare le regole date e a rivelare le sue istruzioni: il rischio numero uno della classifica OWASP per le applicazioni AI.
Prompt injection indiretta
La parte insidiosa: istruzioni nascoste dentro i documenti o le pagine che l'assistente legge, eseguite come se le aveste scritte voi.
Fuga di dati dal contesto
Se l'assistente è collegato ai vostri archivi, verifichiamo se lo si può indurre a mostrare dati riservati a chi non dovrebbe vederli.
Abuso delle azioni collegate
Se può inviare email, aprire ticket o modificare dati, proviamo — su dati di prova — se lo si può spingere a farlo indebitamente.
Casi d'uso tipici
Esempi concreti in cui questo servizio puo diventare un prodotto operativo.
Mettiamo alla prova il vostro assistente AI o chatbot: verifichiamo se si può aggirare le sue regole (prompt injection), fargli rivelare istruzioni o dati riservati, o spingerlo a compiere azioni non previste. Vi consegniamo cosa cede e come contenerlo, limitando ciò che l'assistente sa e ciò che può fare. Il prezzo dipende da quanto è collegato ai vostri sistemi; lo definiamo nella consulenza gratuita.
Perché è una sicurezza diversa da quella classica
Gli strumenti e i test pensati per il software tradiscono, con l'AI, un punto cieco: sono fatti per un mondo in cui comandi e dati sono separati. Un assistente basato su un modello linguistico li mescola in un unico flusso di testo, e non ha un modo affidabile di distinguere le istruzioni legittime da quelle inserite da chi ci scrive. È una debolezza strutturale, non un difetto da correggere una volta: per questo va testata con un approccio suo, e gestita contenendo il danno invece di sperare in una barriera perfetta.
Cosa ricevete in mano
- L'elenco di cosa siamo riusciti a fargli dire, rivelare o fare, con la sequenza per riprodurlo.
- La gravità di ciascun cedimento, in base a cosa l'assistente sa e può fare.
- Le azioni per contenere: cosa togliergli di sapere, cosa togliergli di poter fare, dove mettere una conferma umana.
- Una verifica dopo gli interventi, per confermare che i cedimenti seri sono chiusi.
Come lavoriamo
- 01
Consulenza gratuita
Capiamo cosa fa il vostro assistente, a cosa è collegato e cosa può fare. Da lì definiamo perimetro e prezzo.
- 02
Autorizzazione e ambiente
Concordiamo per iscritto il perimetro e lavoriamo su dati di prova quando l'assistente può compiere azioni.
- 03
Test avversariale
Proviamo prompt injection diretta e indiretta, fuga di dati e abuso delle azioni, variando gli approcci come farebbe chi vuole abusarne.
- 04
Relazione e contenimento
Vi consegniamo cosa cede e le azioni per ridurre il danno, spiegate a voce.
Domande frequenti
- Uso un assistente pronto, non l'ho costruito io: mi serve comunque?
- Sì. La piattaforma mette la sua parte, ma le istruzioni che gli avete dato, i dati a cui l'avete collegato e le azioni che gli avete permesso sono vostre scelte, ed è lì che nasce il rischio. Un assistente pronto collegato al vostro archivio clienti espone i vostri dati esattamente come uno su misura.
- Il mio chatbot risponde solo sui prodotti: rischio comunque?
- Il rischio è basso finché resta così, e ve lo diremmo con onestà. Cambia nel momento in cui lo collegate ai dati dei clienti o gli date la possibilità di compiere azioni: è in quel passaggio che il test diventa importante. Se non serve, non ve lo vendiamo.
- Quanto costa?
- Dipende soprattutto da quanto l'assistente è collegato ai vostri sistemi: provare uno che solo risponde è un conto, provarne uno che accede ai dati e compie azioni è un altro. Nella consulenza gratuita lo collochiamo e vi diamo un ordine di grandezza prima di qualsiasi impegno.
- Posso provarlo da solo prima?
- Sì, e vi incoraggiamo a farlo: la guida «Provare la prompt injection sul tuo assistente» spiega un metodo responsabile. Vi dà un primo quadro. Quello che il fai-da-te non copre sono le vie indirette e la valutazione di cosa l'assistente può fare attraverso i sistemi collegati: è lì che entriamo noi.
Continua da qui
Sapete cosa si fa dire il vostro assistente AI a chi sa chiederglielo?
Prenota una consulenza gratuita di 30 minuti: analizziamo il tuo caso, ti diciamo cosa serve davvero — sito, e-commerce, web app o automazione — e con quale budget e tempistica. Senza impegno.
Altre pagine servizio
Test di sicurezza delle applicazioni
Proviamo a entrare nella vostra applicazione con il vostro permesso, per trovarne i punti deboli prima che li trovi qualcun altro — e vi diciamo cosa sistemare e in che ordine.
Test di carico e stress
Scopriamo quanto traffico regge davvero la vostra applicazione, e cosa cede per primo — prima che a scoprirlo sia il giorno della campagna o del Black Friday.
Questionari di sicurezza dei clienti
Un cliente grande, una gara o un obbligo vi ha mandato un questionario di sicurezza. Vi aiutiamo a rispondere con risposte vere — e a poterle dare vere.
Realizzazione siti web aziendali
Siti costruiti per farti trovare e per farti scegliere: struttura pensata per la ricerca, contenuti che rispondono alle domande vere dei tuoi clienti.
Sito vetrina professionale
Poche pagine fatte bene: chi sei, cosa fai, per chi, e come si fa a contattarti. Online in poche settimane.
Landing page per campagne
Una pagina, una promessa, una azione. Costruita sull'annuncio che ci porta il traffico, non sulla home.
Sviluppo e-commerce
E-commerce B2C e B2B costruiti intorno al tuo catalogo, al tuo gestionale e al tuo modo di vendere — non intorno ai limiti di un tema comprato.
E-commerce B2B e portale ordini
Un portale dove i tuoi rivenditori riordinano in trenta secondi, alle loro condizioni, senza telefonare in ufficio.
Sviluppo app mobile iOS e Android
App per clienti, reti di vendita e lavoro sul campo. Prima però ti diciamo se ti serve davvero un'app: spesso la risposta è no, e costa molto meno.
PWA: l'app senza gli store
Si installa dal browser, funziona offline, si aggiorna da sola. Per molti progetti fa lo stesso lavoro di un'app a una frazione del costo.
Portale clienti e area riservata
Uno spazio dove i tuoi clienti trovano da soli documenti, stato delle pratiche e storico — invece di chiamare il tuo ufficio.
Restyling e rifacimento sito web
Rifacciamo il sito senza buttare via quello che già funziona: posizioni acquisite, contenuti che portano traffico, pagine che convertono.
Manutenzione e assistenza siti web
Aggiornamenti applicati, backup provati, monitoraggio attivo e qualcuno che risponde quando serve. Anche su siti che non abbiamo fatto noi.
Accessibilità dei siti web
Verifica dello stato attuale, interventi concreti e documentazione di quello che è stato fatto. Senza promettere conformità che nessuno può garantire con un widget.
Velocità e SEO tecnica
Il lavoro invisibile che decide se il sito può essere trovato: pagine leggibili senza JavaScript, caricamento rapido, duplicati sotto controllo.
Chatbot e assistenti AI su misura
Assistenti che sanno le tue cose: i tuoi contenuti, i tuoi documenti, i tuoi ordini. Non un modello generico con il tuo logo sopra.
AI sui documenti aziendali
Manuali, listini, capitolati, procedure, contratti: l'assistente risponde citando il file e il punto esatto.
Infrastruttura AI aziendale
Modelli che girano dove vuoi tu, collegati ai tuoi sistemi. Per chi ha vincoli di riservatezza, volumi o entrambi.
Automazione dei processi aziendali
Togliere i passaggi manuali che si ripetono ogni giorno, partendo dal conto di quanto costano oggi.
Integrazione AI nei processi aziendali
Non un assistente generico: l'intelligenza artificiale messa su un passaggio preciso del vostro lavoro, con un numero che deve cambiare.
Integrazione fra sistemi aziendali
Far parlare gestionale, e-commerce, CRM e strumenti di reparto, così nessuno debba più ricopiare da una finestra all'altra.
Web app e gestionali su misura
Lo strumento che manca fra il gestionale e i fogli di calcolo: costruito sul vostro processo, non su un modello generico.