Giskard

Giskard is een AI-red-teaming en LLM-veiligheidsplatform dat proactief kwetsbaarheden detecteert om AI-fouten in productie te voorkomen.

🇫🇷
Gevestigd in de EUGehost in de EUInvesteringen uit de EUHuidige financieringsfase: Seed
#LLM-veiligheid#AI-veiligheid#Red Teaming#Kwetsbaarheidsdetectie#LLM-evaluatie#Naleving#On-premise#EU-gehosted#AVG#Observeerbaarheid#Business-IT-afstemming
Bezoek website

Over Giskard

Giskard is een AI-red-teaming- en LLM-beveiligingsplatform ontworpen voor AI-teams bij ondernemingen om proactief kwetsbaarheden in AI-agenten op te sporen, waaronder hallucinaties, datablootstellingen, prompt-injecties en nalevingshiaten. Zijn red-teaming-engine genereert continu geavanceerde aanvalsscenario's, terwijl zijn visuele annotatiestudio en testautomatisering helpen bevindingen om te zetten in blijvende beveiligingen door de hele AI-levenscyclus. Het integreert met observability-stacks en ondersteunt on-premise of EU-gehoste implementaties, met onderzoeks-samenwerkingen (bijv. Phare met Google DeepMind) om veiligheid en beveiliging te benchmarken.

Wat Giskard biedt

  • Doorlopend AI-red-teaming met dynamische, contextbewuste aanvallen die zich aanpassen aan je agent
  • Geautomatiseerde detectie van kwetsbaarheden in verschillende categorieën, zoals hallucinaties, tegenstrijdigheden, datablootstelling, promptinjecties en ongepaste content
  • Annotatiestudio gericht op zakelijke toepassingen, om tests af te stemmen op de praktijk
  • Testuitvoering en het voorkomen van regressies met uitgebreide testsuites en een Python-SDK
  • Integratie met observability-stacks en beveiliging op enterprise-niveau, met RBAC, SSO en versleuteling
  • Implementatie on-premise of in de cloud, met infrastructuur in de EU en naleving van de AVG
  • Proactieve monitoring om problemen op te sporen voordat ze productie bereiken of het gebruik in de weg staan
  • Samenwerkingsfuncties die technische en zakelijke stakeholders met elkaar verbinden
  • Een aanpak gebaseerd op onderzoek, met benchmarks van Phare en samenwerkingen binnen de sector

Wat Giskard onderscheidt

  • Uitgebreide dekking van kwetsbaarheden in AI-systemen, waaronder hallucinaties, vooroordelen en tekortkomingen op het gebied van naleving van zakelijke vereisten
  • Proactieve detectie van kwetsbaarheden gedurende de hele AI-levenscyclus, niet alleen na de implementatie
  • Domeinspecifieke tests op basis van interne kennisbanken en externe dreigingsinformatie
  • Beveiliging en governance op enterprise-niveau, met gegevensverwerking die voldoet aan de AVG
  • Flexibele implementatiemogelijkheden, on-premise of in de cloud in de EU, en eenvoudige integratie met bestaande tools
  • Samenwerkingstools waarmee zakelijke experts en ontwikkelaars samen tests uitvoeren
  • Actieve onderzoekspartnerschappen en ruime ervaring met grote AI-teams

Lanceringen van dit bedrijf

Dit bedrijf heeft nog geen lanceringen gepubliceerd.