Giskard

Giskard est une plateforme de red-teaming IA et de sécurité des LLM qui détecte proactivement les vulnérabilités pour prévenir les défaillances d'IA en production.

🇫🇷
Basée dans l’UEHébergée dans l’UEFinancée par des investisseurs de l’UEStade de financement actuel: Amorçage
#Sécurité des modèles de langage#Sécurité de l'IA#Exercices d'équipe rouge#Détection de vulnérabilités#Évaluation des modèles de langage#Conformité#Sur site#Hébergé dans l'UE#RGPD#Observabilité#Alignement Business-IT
Visiter le site

À propos de Giskard

Giskard est une plateforme de red-teaming IA et de sécurité des LLM conçue pour les équipes IA d'entreprise afin de détecter de manière proactive les vulnérabilités des agents IA, y compris les hallucinations, les fuites de données, les injections de prompt et les écarts de conformité. Son moteur de red-teaming génère en continu des scénarios d'attaque sophistiqués, tandis que son studio d'annotation visuelle et son automation des tests aident à transformer les constats en protections durables tout au long du cycle de vie de l'IA. Il s'intègre aux stacks d'observabilité et prend en charge les déploiements sur site ou hébergés dans l'UE, avec des collaborations de recherche (par exemple, Phare en collaboration avec Google DeepMind) pour évaluer la sécurité et la sûreté.

Ce que propose Giskard

  • Red teaming IA en continu, avec des attaques dynamiques et contextuelles qui s'adaptent à ton agent
  • Détection automatisée des vulnérabilités dans différentes catégories (hallucinations, contradictions, divulgation de données, injections de prompt, contenus inappropriés, etc.)
  • Studio d'annotation orienté métier pour aligner les tests sur les exigences du terrain
  • Exécution des tests et prévention des régressions grâce à des suites de tests complètes et à un SDK Python
  • Intégration aux outils d'observabilité et sécurité de niveau entreprise (contrôle d'accès basé sur les rôles, authentification unique, chiffrement)
  • Déploiement sur site ou dans le cloud, avec une infrastructure hébergée dans l'UE et conformité au RGPD
  • Surveillance proactive pour détecter les problèmes avant la mise en production et lever les freins à l'adoption
  • Fonctionnalités de collaboration pour rapprocher les équipes techniques et métier
  • Approche fondée sur la recherche, avec les benchmarks Phare et des collaborations sectorielles

Ce qui distingue Giskard

  • Couverture exhaustive des vulnérabilités des systèmes d'IA, notamment les hallucinations, les biais et les écarts de conformité métier
  • Détection proactive des vulnérabilités tout au long du cycle de vie de l'IA, et pas seulement après le déploiement
  • Tests adaptés au domaine, qui s'appuient sur les bases de connaissances internes et les données externes sur les menaces
  • Sécurité et gouvernance de niveau entreprise, avec une gestion des données conforme au RGPD
  • Options de déploiement flexibles (sur site ou dans un cloud hébergé dans l'UE) et intégration facile aux outils existants
  • Outils collaboratifs qui réunissent experts métier et développeurs pour les tests
  • Partenariats de recherche actifs et expérience éprouvée auprès de grandes équipes IA

Les lancements de cette entreprise

Cette entreprise n’a encore publié aucun lancement.