Tietoa yrityksestä Giskard
Giskard on AI:n punaisen tiimin testaukseen ja LLM-turvallisuuteen tarkoitettu alusta, joka auttaa yritys-AI-tiimejä havaitsemaan proaktiivisesti haavoittuvuuksia tekoälyagentteihin – kuten hallusinaatiot, tietovuodot, prompt-injektiot ja noudattamisen puutteet. Sen punaisen tiimin testausmoottori tuottaa jatkuvasti kehittyneitä hyökkäysskenaarioita, ja sen visuaalinen annotointistudio sekä testiautomaatio auttavat muuntamaan havainnot kestäviksi suojauksiksi tekoälyn elinkaaren kaikille vaiheille. Se integroituu observability-pinoihin ja tukee sekä on-premise- että EU-hostattuja käyttöönottoja. Tutkimusyhteistyö (esim. Phare Google DeepMindin kanssa) mahdollistaa turvallisuuden ja varmuuden benchmarkkaamisen.
Mitä Giskard tarjoaa
- Jatkuvaa AI:n punaisen tiimin testausta dynaamisilla, kontekstiin mukautuvilla hyökkäyksillä, jotka mukautuvat agenttiisi
- Haavoittuvuuksien automaattinen tunnistus eri kategorioissa, kuten hallusinaatiot, ristiriidat, tietojen paljastuminen, prompt-injektiot ja sopimaton sisältö
- Liiketoiminnan tarpeisiin keskittyvä annotointistudio, jolla testaus voidaan sovittaa käytännön vaatimuksiin
- Testien suoritus ja regressioiden ehkäisy kattavilla testisarjoilla ja Python SDK:lla
- Integraatio observability-pinoihin sekä yritystason tietoturva (RBAC, SSO, salaus)
- Käyttöönotto omassa ympäristössä tai pilvessä EU:ssa sijaitsevalla infrastruktuurilla ja GDPR-vaatimusten mukaisesti
- Ennakoiva valvonta, joka auttaa havaitsemaan ongelmat ennen tuotantokäyttöä ja käyttöönoton esteiden ilmenemistä
- Yhteistyöominaisuudet, jotka tuovat tekniset ja liiketoiminnan sidosryhmät yhteen
- Tutkimukseen perustuva lähestymistapa, Phare-benchmarkit ja yhteistyö alan toimijoiden kanssa
Mikä erottaa Giskardn muista
- Kattava AI-järjestelmien haavoittuvuuksien kattavuus, mukaan lukien hallusinaatiot, vinoumat ja liiketoiminnan vaatimustenmukaisuuden puutteet
- Haavoittuvuuksien ennakoiva tunnistus koko AI:n elinkaaren ajan, ei vain käyttöönoton jälkeen
- Toimialan huomioiva testaus, jossa hyödynnetään sisäisiä tietokantoja ja ulkoista uhkatietoa
- Yritystason tietoturva ja hallintamallit sekä GDPR-vaatimusten mukainen tietojen käsittely
- Joustavat käyttöönottovaihtoehdot (omassa ympäristössä tai EU:ssa sijaitsevassa pilvessä) ja helppo integrointi olemassa oleviin työkaluihin
- Yhteistyötyökalut, jotka tuovat liiketoiminnan asiantuntijat ja kehittäjät yhteen testausta varten
- Aktiiviset tutkimuskumppanuudet ja näyttöjä yhteistyöstä suurten AI-tiimien kanssa