AI-säkerhet
Penetrationstest av AI-tjänster och LLM-applikationer
En språkmodell med tillgång till dina system är en ny sorts angreppsyta. Instruktionerna kommer från texten den läser, och texten kommer ofta från någon annan än dig.
Manuell testning. Obegränsat omtest ingår.
Testområden
Det här testar vi i en AI-lösning
Promptinjektion
Direkt och indirekt injektion via dokument, webbsidor, e-post och andra källor som modellen läser. Vi visar hur en instruktion i ett dokument blir en åtgärd i ditt system.
Verktyg och agenter
När modellen får anropa funktioner, söka i databaser eller skicka meddelanden flyttas risken. Vi testar var gränsen går och vad som händer när den passeras.
Läckage av data
Systemprompter, nycklar, andra användares data och innehåll från indexet. Vi prövar hur mycket som går att få ut och genom vilka omvägar.
RAG och indexering
Behörigheter i vektordatabasen, förgiftning av källor och om användare kan nå dokument de inte har rätt till via omformulerade frågor.
Kringgående av skydd
Filter, systemprompter och moderering testas mot kända och nya tekniker, inklusive kodning, rollspel och flerstegsangrepp.
Applikationen runt modellen
Autentisering, behörigheter, kvoter och kostnadsskydd. De flesta allvarliga fynden ligger fortfarande i den vanliga applikationen, inte i modellen.
Regelverk
AI, dataskydd och tillsyn
AI-tjänster hamnar snabbt i flera regelverk samtidigt, särskilt när de behandlar personuppgifter.
EU:s AI-förordning
Beroende på användningsområde ställs krav på riskhantering, robusthet och säkerhet under hela livscykeln. Ett dokumenterat säkerhetstest av tjänsten är ett konkret sätt att visa att robusthetskravet har prövats.
GDPR och IMY
Prompter, loggar och indexerade dokument innehåller ofta personuppgifter utan att någon har tänkt på det. Vi kartlägger vad som faktiskt lagras och vem som kan få ut det, som underlag till din bedömning gentemot Integritetsskyddsmyndigheten.
NIS2
Används AI-tjänsten i en verksamhet som omfattas av cybersäkerhetslagen ingår den i riskhanteringen. Vi behandlar den som vilket annat verksamhetskritiskt system som helst och rapporterar därefter.
OWASP Top 10 for LLM Applications
Vi utgår från den listan som gemensam referensram, så att fynden går att jämföra över tid och kommunicera till både utvecklare och externa granskare.
Vanliga frågor
Frågor om AI-tester
Relaterade sidor
Testa AI-tjänsten innan den får fler behörigheter
Berätta hur lösningen är byggd så återkommer vi med en avgränsning och ett fast pris.
Begär offert