Ettevõttest Giskard
Giskard on tehisintellekti jaoks mõeldud red-teaming- ja LLM-turvalisusplatvorm, mis on loodud ettevõtete AI-meeskondadele, et proaktiivselt tuvastada AI-agentide turvaauke, sealhulgas hallutsinatsioone, andmete paljastamist, prompt-sisestamise rünnakuid ja vastavuse lünki. Selle red-teaming-mootor genereerib pidevalt keerukaid ründe stsenaariume, samas kui visuaalne annotatsiooni stuudio ja testimise automatiseerimine aitavad neist avastustest luua püsivaid kaitseid kogu AI elutsüklis. See integreerub jälgitavuse virnadega ja toetab kohapealseid või EU-hostitud juurutusi, uurimuspartnerlustega (nt Phare Google DeepMindiga), ohutuse ja turvalisuse hindamiseks.
Mida Giskard pakub
- Pidev AI red-teaming dünaamiliste ja kontekstitundlike rünnakutega, mis kohanduvad sinu agendiga
- Turvaaukude automaatne tuvastamine eri kategooriates, sealhulgas hallutsinatsioonid, vastuolud, andmete paljastamine, prompt-sisestamise rünnakud ja sobimatu sisu
- Ärivajadustele keskenduv annotatsioonistuudio, mis aitab viia testimise vastavusse tegelike nõuetega
- Testide käivitamine ja regressioonide ennetamine põhjalike testikomplektide ning Pythoni SDK abil
- Lõiming jälgitavuse tööriistadega ja ettevõtetele mõeldud turvalisus, sealhulgas rollipõhine juurdepääsukontroll (RBAC), ühekordne sisselogimine (SSO) ja krüpteerimine
- Kohapealne või pilvepõhine juurutus EL-is majutatud taristul koos GDPR-i nõuete täitmisega
- Ennetav seire, mis aitab probleemid avastada enne tootmiskeskkonda jõudmist ja enne, kui need kasutuselevõttu takistavad
- Koostööfunktsioonid, mis ühendavad tehnilised ja äripoole osalised
- Teadusuuringutele tuginev lähenemine, mida toetavad Phare'i võrdlustestid ja koostöö valdkonna ettevõtetega
Mille poolest Giskard erineb
- AI-süsteemide turvaaukude põhjalik tuvastamine, sealhulgas hallutsinatsioonid, kallutatus ja ärinõuetele vastavuse puudujäägid
- Turvaaukude ennetav tuvastamine kogu AI elutsükli jooksul, mitte ainult pärast juurutamist
- Valdkonnateadlik testimine, mis kasutab ettevõttesiseseid teadmistebaase ja väliseid ohuteabeallikaid
- Ettevõtetele mõeldud turvalisus ja juhtimine ning GDPR-i nõuetele vastav andmekäitlus
- Paindlikud juurutusvõimalused, kohapeal või EL-is majutatud pilves, ning lihtne lõiming olemasolevate tööriistadega
- Koostöötööriistad, mis toovad äriüksuste eksperdid ja arendajad testimisel kokku
- Aktiivsed teaduskoostööprojektid ja kogemus suurte AI-meeskondadega