AI & LLM security testing
Tekoäly- ja LLM-sovellusten tunkeutumistestaus
Kielimalliin nojaava sovellus laajentaa hyökkäyspintaa tavalla, jota perinteinen tietoturvatestaus ei kata. Ohje voi tulla datasta, ja malli tottelee sitä.
Testaus kattaa mallin, sen ympärillä olevan sovelluksen ja kaikki integraatiot.
Painopisteet
Mitä tekoälytestauksessa käydään läpi
Testaus nojaa OWASP:n LLM-sovelluksia koskeviin riskiluokkiin ja täydentyy sovelluskohtaisilla hyökkäysskenaarioilla.
Kehoteinjektiot
Suorat ja epäsuorat injektiot, joissa ohje kulkeutuu malliin dokumentista, verkkosivulta tai sähköpostista. Testaamme, muuttuuko käsitelty sisältö komennoiksi.
Tietovuodot
Järjestelmäkehotteen, taustadokumenttien ja toisen käyttäjän tietojen vuotaminen vastauksissa. Erityishuomio kohdistuu hakupohjaisiin ratkaisuihin ja niiden käyttöoikeussuodatukseen.
Työkalukutsut ja agentit
Kun malli saa kutsua rajapintoja, jokainen kutsu on uusi hyökkäysvektori. Testaamme, voiko käyttäjä ohjata mallin tekemään toimia, joihin hänellä ei ole oikeutta.
Käyttöoikeudet hakuketjussa
Vektoritietokannan sisältö ei tunne käyttäjärooleja itsestään. Selvitämme, palauttaako haku aineistoa, jota kysyjä ei saisi nähdä.
Väärinkäytön rajoitukset
Suodattimien ja käyttörajoitusten ohittaminen sekä kustannusten kasvattaminen tarkoituksellisesti. Molemmilla on suora liiketoimintavaikutus.
Perinteinen sovellustietoturva
Tekoälyn ympärillä on aina tavallinen sovellus: todennus, käyttöoikeudet, rajapinnat ja tallennus. Nämä testataan samalla huolellisuudella kuin missä tahansa muussa toimeksiannossa.
Sääntely
Tekoäly, sääntely ja näyttö
Tekoälysovellusten sääntely kehittyy nopeasti, mutta todennettu tekninen testaus on hyödyksi kaikissa tulkinnoissa.
EU:n tekoälyasetus
Asetus edellyttää riskiperusteista lähestymistapaa ja teknisten toimenpiteiden dokumentointia. Tunkeutumistestauksen raportti toimii konkreettisena näyttönä siitä, että järjestelmän kestävyys on arvioitu eikä vain kuvattu paperilla.
GDPR ja tietosuojalaki
Kielimalliin syötetty aineisto sisältää usein henkilötietoja. Testaamme, vuotavatko ne toisille käyttäjille tai mallin ulkopuolelle, ja dokumentoimme havainnot muodossa, jota voi käyttää vaikutustenarvioinnin liitteenä.
Kyberturvallisuuskeskuksen ohjeistus
Traficomin Kyberturvallisuuskeskus on nostanut tekoälyn sekä uhkana että työkaluna osaksi kansallista tilannekuvaa. Havaintomme luokitellaan niin, että ne on helppo suhteuttaa keskuksen julkaisemiin suosituksiin.
ISO 27001 ja toimittajahallinta
Malli tulee usein kolmannelta osapuolelta, mutta vastuu palvelusta jää teille. Testaus osoittaa, mitä sovelluksenne todella lähettää ulos ja millä oikeuksilla — tieto, jota toimittaja-arviointi harvoin tuottaa.
Usein kysyttyä
Tekoälysovellusten testaus
Katso myös
Testataan tekoälysovelluksenne ennen käyttöönottoa
Kertokaa arkkitehtuurista lyhyesti, niin ehdotamme rajauksen ja aikataulun.
Pyydä tarjous