Ny angrepsflate
Penetrasjonstest av LLM- og AI-løsninger
En språkmodell med tilgang til dine data og verktøy er en ny type integrasjon: den tar imot instruksjoner fra tekst den leser. Vi tester hva som skjer når teksten kommer fra noen som vil deg vondt.
Manuell testing med dokumenterte eksempler du kan gjenskape selv.
Testområder
Det vi tester i en AI-løsning
Prompt injection
Både direkte i samtalen og indirekte gjennom innhold modellen henter inn: dokumenter, nettsider, e-poster og databaseposter. Indirekte prompt injection er det vi finner oftest, og det som er vanskeligst å oppdage i drift.
Lekkasje av instruksjoner og data
Kan systeminstruksjonen hentes ut? Kan modellen lokkes til å gjengi innhold fra andre brukeres samtaler, fra kildedokumenter den ikke skulle vise, eller fra konfigurasjon som ligger i konteksten?
Tilgangskontroll i RAG-løsninger
Får bruker A opp innhold som tilhører bruker B? Vi tester om rettighetsfiltreringen faktisk gjelder på tvers av kilder, indeksering og mellomlagring — dette er den vanligste alvorlige feilen i interne kunnskapsassistenter.
Agenter med verktøytilgang
Når modellen kan kalle API-er, sende e-post eller kjøre kode, blir konsekvensen av en vellykket injection reell. Vi tester hvor langt en angriper kommer med å styre verktøybruken, og om det finnes en menneskelig godkjenning der det bør være en.
Misbruk og omgåelse av regler
Kan sikkerhetsreglene omgås? Kan tjenesten brukes til noe den ikke er ment for, på din regning og under ditt navn? Vi tester også kostnadsmisbruk og manglende ratebegrensning, som ofte er glemt.
Infrastrukturen rundt modellen
API-nøkler, mellomlagring, logging av samtaler, vektordatabaser og administrasjonsgrensesnitt. Ofte er det ikke modellen som er svakest, men tjenesten som er bygget rundt den i litt for stort tempo.
Krav
Regelverket rundt AI i Norge
AI-løsninger treffer både personvernregelverket og det nye regelverket for kunstig intelligens.
AI-forordningen gjennom EØS
EUs forordning om kunstig intelligens er merket EØS-relevant og innlemmes i EØS-avtalen, slik at kravene i praksis vil gjelde også for norske virksomheter. Kravene til robusthet, sikkerhet og dokumentasjon for systemer i høyere risikoklasser forutsetter at løsningen er testet — ikke bare beskrevet.
Personopplysningsloven og treningsdata
Behandles personopplysninger i instruksjoner, kildedokumenter eller samtalelogger, gjelder de vanlige kravene til grunnlag, dataminimering og sikkerhet. Vi dokumenterer hvilke data som faktisk havner i modellens kontekst, og hvor de blir av etterpå.
OWASP Top 10 for LLM
Vi bruker OWASPs liste over risikoer for LLM-applikasjoner som struktur i testingen, slik at rapporten er gjenkjennelig for utviklerne dine og enkel å sammenligne med andre vurderinger dere måtte ha gjort.
NSMs grunnprinsipper og ny teknologi
Prinsippene om kontroll på dataflyt, tilgangsstyring og sikker konfigurasjon gjelder uendret for AI-tjenester. Vi kobler funnene til dem, slik at en AI-løsning kan vurderes i samme risikobilde som resten av virksomhetens systemer.
Gjennomføring
Slik tester vi en AI-løsning
- 01
Forstå løsningen
Hvilken modell, hvilke datakilder, hvilke verktøy, hvilke brukere. Vi trenger å vite hva løsningen kan gjøre før vi kan vurdere hva som skjer når den misbrukes.
- 02
Trusselmodell
Vi setter opp konkrete mål for angrepet: hente ut data fra en annen leietaker, utløse en handling uten godkjenning, eller få tak i systeminstruksjonen.
- 03
Manuell testing
Direkte og indirekte injection, tilgangskontroll på tvers av brukere, verktøymisbruk og omgåelse av regler. Vi kombinerer kjente teknikker med varianter tilpasset akkurat din løsning.
- 04
Testing av infrastrukturen
API-er, nøkkelhåndtering, vektordatabase, logging og administrasjonsflater testes som en vanlig applikasjon, fordi det er nettopp det de er.
- 05
Rapport og retest
Hvert funn kommer med den konkrete inndataen som utløste det, slik at teamet kan gjenskape og verifisere utbedringen selv. Retesten er inkludert.
Ofte stilte spørsmål
Om sikkerhetstesting av AI
Relaterte tjenester
Test AI-løsningen før den settes i produksjon
Vi går gjennom modellen, datakildene og verktøytilgangen, og viser deg hva som faktisk kan misbrukes.
Be om tilbud