Giskard

Giskard yra AI raudonojo testavimo ir LLM saugumo platforma, kuri proaktyviai aptinka pažeidžiamumus, kad padėtų užkirsti kelią AI klaidoms gamyboje.

🇫🇷
Įsikūrusi ESPriegloba ESInvestuota ESDabartinis finansavimo etapas: Sėklinis etapas
#LLM saugumas#AI saugumas#Raudonojo testavimo#Pažeidžiamumų nustatymas#LLM įvertinimas#Atitiktis#Vietinis#EU hostintas#GDPR#Stebėjimas#Verslo-IT suderinamumas
Apsilankyti svetainėje

Apie Giskard

Giskard yra AI raudonojo testavimo ir LLM saugumo platforma, sukurta įmonių AI komandoms, kuria proaktyviai aptinka pažeidžiamumus AI agentuose, įskaitant haliucinacijas, duomenų atskleidimą, užklausų įterpimus ir atitikties spragas. Jo raudonojo testavimo variklis nuolat generuoja sudėtingus atakų scenarijus, o vizuali anotacijų studija ir testavimo automatizavimas padeda išvadas paversti tvariomis apsaugomis visame AI gyvavimo cikle. Ji integruojasi su stebėjimo sprendimų rinkiniais ir palaiko vietinį diegimą arba ES hostintas diegimo galimybes, o tyrimų bendradarbiavimai (pvz., Phare su Google DeepMind) padeda įvertinti saugumą.

Ką siūlo Giskard

  • Nuolatinis AI raudonasis testavimas naudojant dinamines, kontekstą atsižvelgiančias atakas, kurios prisitaiko prie tavo agento
  • Automatinis pažeidžiamumų nustatymas įvairiose kategorijose: haliucinacijos, prieštaravimai, duomenų atskleidimas, užklausų įterpimai, netinkamas turinys ir kt.
  • Į verslo poreikius orientuota anotacijų studija, padedanti testavimą pritaikyti realioms sąlygoms
  • Testų vykdymas ir regresijų prevencija naudojant išsamius testų rinkinius ir Python SDK
  • Integracija su stebėjimo įrankiais ir įmonėms skirto lygio saugumas (RBAC, SSO, šifravimas)
  • Diegimas vietoje arba debesijoje, naudojant ES talpinamą infrastruktūrą ir užtikrinant atitiktį BDAR
  • Aktyvus stebėjimas, padedantis aptikti problemas dar prieš diegimą į gamybą ir naudotojų įsisavinimo kliūtims iškylant
  • Bendradarbiavimo funkcijos, padedančios techninėms ir verslo komandoms dirbti kartu
  • Moksliniais tyrimais pagrįstas metodas, paremtas „Phare“ etaloniniais testais ir bendradarbiavimu su pramonės įmonėmis

Kuo Giskard išsiskiria

  • Išsamus AI sistemų pažeidžiamumų aprėptis, įskaitant haliucinacijas, šališkumą ir verslo reikalavimų bei atitikties spragas
  • Proaktyvus pažeidžiamumų nustatymas per visą AI gyvavimo ciklą, ne tik po įdiegimo
  • Konkrečiai sričiai pritaikytas testavimas, pasitelkiantis vidines žinių bazes ir išorinius duomenis apie grėsmes
  • Įmonėms skirto lygio saugumas, valdymas ir su BDAR suderinamas duomenų tvarkymas
  • Lankstūs diegimo būdai (vietoje arba ES talpinamoje debesijoje) ir paprasta integracija su turimais įrankiais
  • Bendradarbiavimo įrankiai, padedantys verslo ekspertams ir programuotojams kartu testuoti sistemas
  • Aktyvios mokslinių tyrimų partnerystės ir patirtis dirbant su didelėmis AI komandomis

{name} pristatyti produktai

Ši įmonė dar nepaskelbė jokių produktų pristatymų.