Giskard

Giskard on AI:n punaisen tiimin testausta ja LLM-turvallisuutta parantava alusta, joka proaktiivisesti havaitsee haavoittuvuuksia ja estää tekoälyn epäonnistumiset tuotannossa.

🇫🇷
Toimii EU:ssaEU:ssa ylläpidettyEU-sijoittajien rahoittamaNykyinen rahoitusvaihe: Seed-vaihe
#LLM-turvallisuus#AI-turvallisuus#Red Teaming#Haavoittuvuuksien tunnistus#LLM-arviointi#Noudattaminen#Paikallinen#EU-hostattu#GDPR#Observability#Liiketoiminnan ja IT:n yhteensovittaminen
Siirry verkkosivuille

Tietoa yrityksestä Giskard

Giskard on AI:n punaisen tiimin testaukseen ja LLM-turvallisuuteen tarkoitettu alusta, joka auttaa yritys-AI-tiimejä havaitsemaan proaktiivisesti haavoittuvuuksia tekoälyagentteihin – kuten hallusinaatiot, tietovuodot, prompt-injektiot ja noudattamisen puutteet. Sen punaisen tiimin testausmoottori tuottaa jatkuvasti kehittyneitä hyökkäysskenaarioita, ja sen visuaalinen annotointistudio sekä testiautomaatio auttavat muuntamaan havainnot kestäviksi suojauksiksi tekoälyn elinkaaren kaikille vaiheille. Se integroituu observability-pinoihin ja tukee sekä on-premise- että EU-hostattuja käyttöönottoja. Tutkimusyhteistyö (esim. Phare Google DeepMindin kanssa) mahdollistaa turvallisuuden ja varmuuden benchmarkkaamisen.

Mitä Giskard tarjoaa

  • Jatkuvaa AI:n punaisen tiimin testausta dynaamisilla, kontekstiin mukautuvilla hyökkäyksillä, jotka mukautuvat agenttiisi
  • Haavoittuvuuksien automaattinen tunnistus eri kategorioissa, kuten hallusinaatiot, ristiriidat, tietojen paljastuminen, prompt-injektiot ja sopimaton sisältö
  • Liiketoiminnan tarpeisiin keskittyvä annotointistudio, jolla testaus voidaan sovittaa käytännön vaatimuksiin
  • Testien suoritus ja regressioiden ehkäisy kattavilla testisarjoilla ja Python SDK:lla
  • Integraatio observability-pinoihin sekä yritystason tietoturva (RBAC, SSO, salaus)
  • Käyttöönotto omassa ympäristössä tai pilvessä EU:ssa sijaitsevalla infrastruktuurilla ja GDPR-vaatimusten mukaisesti
  • Ennakoiva valvonta, joka auttaa havaitsemaan ongelmat ennen tuotantokäyttöä ja käyttöönoton esteiden ilmenemistä
  • Yhteistyöominaisuudet, jotka tuovat tekniset ja liiketoiminnan sidosryhmät yhteen
  • Tutkimukseen perustuva lähestymistapa, Phare-benchmarkit ja yhteistyö alan toimijoiden kanssa

Mikä erottaa Giskardn muista

  • Kattava AI-järjestelmien haavoittuvuuksien kattavuus, mukaan lukien hallusinaatiot, vinoumat ja liiketoiminnan vaatimustenmukaisuuden puutteet
  • Haavoittuvuuksien ennakoiva tunnistus koko AI:n elinkaaren ajan, ei vain käyttöönoton jälkeen
  • Toimialan huomioiva testaus, jossa hyödynnetään sisäisiä tietokantoja ja ulkoista uhkatietoa
  • Yritystason tietoturva ja hallintamallit sekä GDPR-vaatimusten mukainen tietojen käsittely
  • Joustavat käyttöönottovaihtoehdot (omassa ympäristössä tai EU:ssa sijaitsevassa pilvessä) ja helppo integrointi olemassa oleviin työkaluihin
  • Yhteistyötyökalut, jotka tuovat liiketoiminnan asiantuntijat ja kehittäjät yhteen testausta varten
  • Aktiiviset tutkimuskumppanuudet ja näyttöjä yhteistyöstä suurten AI-tiimien kanssa

Yrityksen julkaisut

Tämä yritys ei ole vielä julkaissut mitään.