O firmě Giskard
Giskard je platforma pro AI red-teamování a bezpečnost LLM, navržená pro firemní AI týmy, která proaktivně odhaluje zranitelnosti v AI agentech, včetně halucinací, úniků dat, injekcí promptů a nedostatků v dodržování pravidel. Jeho motor pro red-teamování kontinuálně generuje sofistikované útokové scénáře, zatímco annotační studio pro vizuální anotace a testovací automatizace pomáhají proměnit nálezy v trvalé ochrany napříč životním cyklem AI. Integruje se se stackem pozorovatelnosti a podporuje on-premise nebo EU-hostované nasazení, s výzkumnými spolupracemi (např. Phare s Google DeepMind) pro benchmark bezpečnosti a ochrany.
Co nabízí Giskard
- Průběžné AI red-teamování s dynamickými útoky, které zohledňují kontext a přizpůsobují se tvému agentovi
- Automatická detekce zranitelností v různých kategoriích, například halucinací, rozporů, úniků dat, injekcí promptů nebo nevhodného obsahu
- Anotační studio zaměřené na potřeby byznysu, které pomáhá sladit testování s požadavky z praxe
- Spouštění testů a prevence regresí pomocí komplexních testovacích sad a Python SDK
- Integrace se stackem pro pozorovatelnost a zabezpečení na úrovni velkých firem (RBAC, SSO, šifrování)
- Nasazení on-premise nebo v cloudu s infrastrukturou hostovanou v EU a souladem s GDPR
- Proaktivní monitoring, který zachytí problémy ještě před nasazením do produkce i překážky při zavádění
- Funkce pro spolupráci, které propojují technické a byznysové týmy
- Přístup opřený o výzkum, benchmarky Phare a spolupráci s oborem
Čím se Giskard odlišuje
- Důkladné pokrytí zranitelností AI systémů včetně halucinací, zkreslení a nedostatků v souladu s obchodními požadavky
- Proaktivní detekce zranitelností v průběhu celého životního cyklu AI, nejen po nasazení
- Testování zohledňující konkrétní obor, které využívá interní znalostní báze i externí data o hrozbách
- Zabezpečení a správu na úrovni velkých firem a zpracování dat v souladu s GDPR
- Flexibilní možnosti nasazení (on-premise nebo v cloudu hostovaném v EU) a snadnou integraci se stávajícími nástroji
- Nástroje pro spolupráci, které při testování propojují odborníky na byznys s vývojáři
- Aktivní výzkumná partnerství a zkušenosti se spoluprací s velkými AI týmy