Giskard

Giskard ir AI sarkano komandu testēšanas un LLM drošības platforma, kas proaktīvi atklāj ievainojamības, lai novērstu AI neveiksmes ražošanā.

🇫🇷
Atrodas ESMitināts ESES investīcijasPašreizējā finansējuma stadija: Sēklas finansējums
#LLM drošība#Mākslīgā intelekta drošība#Sarkano komandu testēšana#Ievainojamību atklāšana#LLM novērtēšana#Atbilstība#Uz vietas#Eiropas Savienībā hostēts#GDPR#Novērojamība#Biznesa-IT saskaņošana
Apmeklēt vietni

Par Giskard

Giskard ir AI sarkano komandu testēšanas un LLM drošības platforma, kas paredzēta uzņēmumu AI komandām, lai proaktīvi atklātu ievainojamības AI aģentos, tostarp halucinācijas, datu noplūdes, komandu ievadīšanas uzbrukumus un atbilstības plaisas. Tās sarkano komandu dzinējs nepārtraukti ģenerē sarežģītus uzbrukuma scenārijus, savukārt vizuālā anotēšanas studija un testēšanas automatizācija palīdz pārvērst atklāto par noturīgām aizsardzībām visā AI dzīves ciklā. Tā integrējas ar novērojamības stekiem un atbalsta uz vietas vai Eiropā hostētu izvietojumu ar GDPR atbilstību, kā arī pētniecības sadarbības (piem., Phare ar Google DeepMind), lai salīdzinātu drošību un drošības līmeni.

Ko piedāvā Giskard

  • Nepārtraukta AI sarkano komandu testēšana ar dinamiskiem, kontekstu ņemošiem uzbrukumiem, kas pielāgojas tavam aģentam
  • Automatizēta ievainojamību atklāšana dažādās kategorijās, tostarp halucinācijās, pretrunās, datu izpaušanā, komandu ievadīšanas uzbrukumos un neatbilstošā saturā
  • Anotēšanas studija, kas pielāgota biznesa vajadzībām un palīdz testēšanu saskaņot ar reālās darbības prasībām
  • Testu izpilde un regresiju novēršana, izmantojot visaptverošus testu komplektus un Python SDK
  • Integrācija ar novērojamības steku un uzņēmumu līmeņa drošība (RBAC, SSO, šifrēšana)
  • Izvietošana uz vietas vai mākonī, izmantojot Eiropas Savienībā hostētu infrastruktūru un nodrošinot atbilstību GDPR
  • Proaktīva uzraudzība, lai pamanītu problēmas pirms nonākšanas ražošanā un novērstu šķēršļus ieviešanai
  • Sadarbības funkcijas, kas satuvina tehniskās un biznesa komandas
  • Pētniecībā balstīta pieeja ar Phare etalonuzdevumiem un sadarbību nozarē

Ar ko izceļas Giskard

  • Plašs AI sistēmu ievainojamību pārklājums, tostarp halucinācijas, aizspriedumi un biznesa vai atbilstības prasību neizpilde
  • Proaktīva ievainojamību atklāšana visā AI dzīves ciklā, ne tikai pēc izvietošanas
  • Jomas kontekstam pielāgota testēšana, izmantojot iekšējās zināšanu bāzes un ārējos datus par apdraudējumiem
  • Uzņēmumu līmeņa drošība, pārvaldība un ar GDPR saderīga datu apstrāde
  • Elastīgas izvietošanas iespējas (uz vietas vai Eiropas Savienībā hostētā mākonī) un vienkārša integrācija ar esošajiem rīkiem
  • Sadarbības rīki, kas testēšanā saved kopā biznesa ekspertus un izstrādātājus
  • Aktīvas pētniecības partnerības un pieredze darbā ar lielām AI komandām

{name} produktu palaišanas

Šis uzņēmums vēl nav publicējis nevienu produktu.