Giskard

Giskard je platforma pro AI red-teamování a bezpečnost LLM, navržená pro firemní AI týmy, která proaktivně odhaluje zranitelnosti v AI agentech, včetně halucinací, úniků dat, injekcí promptů a nedostatků v dodržování pravidel. Jeho motor pro red-teamování kontinuálně generuje sofistikované útokové scénáře, zatímco annotační studio pro vizuální anotace a testovací automatizace pomáhají proměnit nálezy v trvalé ochrany napříč životním cyklem AI. Integruje se se stackem pozorovatelnosti a podporuje on-premise nebo EU-hostované nasazení, s výzkumnými spolupracemi (např. Phare s Google DeepMind) pro benchmark bezpečnosti a ochrany.

• Kontinuální AI red-teamování s dynamickými útoky na míru kontextu, které se přizpůsobí tvému agentovi
• Automatické zjišťování zranitelností napříč kategoriemi (halucinace, rozpory, úniky dat, injekce promptů, nevhodný obsah atd.)
• Annotační studio orientované na byznys, které sladí testování s reálnými potřebami
• Spouštění testů a prevence regresí díky komplexním testovacím sadám a Python SDK
• Integrace se stackem pozorovatelnosti a zabezpečení na podnikové úrovni (RBAC, SSO, šifrování)
• On-premise nebo cloudové nasazení s EU-hostovanou infrastrukturou a dodržováním GDPR
• Proaktivní monitorování, které zachytí problémy ještě před produkčním nasazením a před překážkami adopce
• Funkce pro spolupráci, které spojují technické i byznysové zúčastněné strany
• Výzkumem podložený přístup s Phare benchmarky a průmyslovými spolupracemi

• Kompletní pokrytí zranitelností AI systémů, včetně halucinací, zkreslení a mezer v shodě s pravidly
• Proaktivní detekce zranitelností během celého životního cyklu AI, ne jen po nasazení
• Testování s doménovou relevancí, které využívá interní znalostní báze a externí data o hrozbách
• Zabezpečení na podnikové úrovni, řízení a zpracování dat v souladu s GDPR
• Flexibilní možnosti nasazení (on-premise nebo EU-hostovaný cloud) a snadná integrace s existujícími nástroji
• Nástroje pro spolupráci, které spojují byznys experty a vývojáře při testování
• Aktivní výzkumná partnerství a praxe se velkými AI týmy

Roční předplatné se odvíjí od počtu AI systémů. Ceník na vyžádání.