Giskard

Giskard ist eine KI-Red-Teaming- und LLM-Sicherheitsplattform, die proaktiv Schwachstellen erkennt, um KI-Ausfälle in der Produktion zu verhindern.

🇫🇷
Mit Sitz in der EUIn der EU gehostetEU-finanziertAktuelle Finanzierungsphase: Seed
#LLM-Sicherheit#KI-Sicherheit#Red Teaming#Schwachstellen-Erkennung#LLM-Bewertung#Compliance#On-Premise#EU-gehostet#GDPR#Beobachtbarkeit#Business-IT-Ausrichtung
Website besuchen

Über Giskard

Giskard ist eine KI-Red-Teaming- und LLM-Sicherheitsplattform, die für Enterprise-AI-Teams entwickelt wurde, damit du proaktiv Schwachstellen in KI-Agenten erkennst – einschließlich Halluzinationen, Datenweitergaben, Prompt-Injektionen und Compliance-Lücken. Seine Red-Teaming-Engine generiert kontinuierlich ausgefeilte Angriffs-Szenarien, während sein visuelles Annotation-Studio und die Testautomatisierung dir dabei helfen, Erkenntnisse in robuste Schutzmaßnahmen über den gesamten KI-Lebenszyklus umzusetzen. Es lässt sich in Observability-Stacks integrieren und unterstützt On-Premise- oder EU-gehostete Deployments, mit Forschungskooperationen (z. B. Phare mit Google DeepMind), um Safety und Security zu benchmarken.

Was Giskard bietet

  • Kontinuierliches KI-Red-Teaming mit dynamischen, kontextbezogenen Angriffen, die sich an deinen Agenten anpassen
  • Automatisierte Erkennung von Schwachstellen in verschiedenen Bereichen, darunter Halluzinationen, Widersprüche, Datenweitergaben, Prompt-Injektionen und unangemessene Inhalte
  • Business-orientiertes Annotation-Studio, damit die Tests reale Anforderungen abdecken
  • Testausführung und Schutz vor Regressionen mit umfassenden Testsuiten und einem Python-SDK
  • Integration in Observability-Stacks und Sicherheit auf Enterprise-Niveau mit RBAC, SSO und Verschlüsselung
  • On-Premise- oder Cloud-Bereitstellung mit EU-gehosteter Infrastruktur und DSGVO-Konformität
  • Proaktives Monitoring, um Probleme vor dem Produktivstart und mögliche Hürden bei der Einführung frühzeitig zu erkennen
  • Funktionen für die Zusammenarbeit, die technische und geschäftliche Stakeholder zusammenbringen
  • Forschungsbasierter Ansatz mit Phare-Benchmarks und Kooperationen in der Branche

Was Giskard auszeichnet

  • Umfassende Abdeckung von Schwachstellen in KI-Systemen, darunter Halluzinationen, Verzerrungen und Lücken bei geschäftlichen Anforderungen und Compliance
  • Proaktive Erkennung von Schwachstellen während des gesamten KI-Lebenszyklus, nicht erst nach der Bereitstellung
  • Domänenspezifische Tests, die interne Wissensdatenbanken und externe Bedrohungsdaten einbeziehen
  • Sicherheit und Governance auf Enterprise-Niveau sowie DSGVO-konformer Umgang mit Daten
  • Flexible Bereitstellungsmöglichkeiten (On-Premise oder EU-gehostete Cloud) und einfache Integration in bestehende Tools
  • Kollaborative Tools, die Business-Expertinnen und -Experten mit Entwicklerinnen und Entwicklern beim Testen zusammenbringen
  • Aktive Forschungspartnerschaften und Erfahrung mit großen KI-Teams

Launches dieses Unternehmens

Dieses Unternehmen hat noch keine Launches veröffentlicht.