Giskard

Giskard es una plataforma de seguridad de IA y red-teaming para LLM que detecta proactivamente vulnerabilidades para prevenir fallos de IA en producción.

🇫🇷
Con sede en la UEAlojado en la UECon inversión de la UEEtapa de financiación actual: Semilla
#Seguridad de LLM#Seguridad de IA#Equipo Rojo#Detección de Vulnerabilidades#Evaluación de LLM#Cumplimiento#En local#Alojado en la UE#RGPD#Observabilidad#Alineación Negocio-TI
Visitar sitio web

Acerca de Giskard

Giskard es una plataforma de pruebas rojas de IA y seguridad de LLM diseñada para equipos de IA en empresas para detectar proactivamente vulnerabilidades en agentes de IA, incluidas alucinaciones, divulgación de datos, inyecciones de prompts y brechas de cumplimiento. Su motor de pruebas rojas genera continuamente escenarios de ataque sofisticados, mientras su estudio de anotación visual y la automatización de pruebas ayudan a convertir los hallazgos en protecciones duraderas a lo largo del ciclo de vida de la IA. Se integra con pilas de observabilidad y admite implementaciones on-premise o alojadas en la UE, con colaboraciones de investigación (p. ej., Phare con Google DeepMind) para establecer referencias en seguridad y protección.

Qué ofrece Giskard

  • Pruebas rojas continuas de IA con ataques dinámicos y sensibles al contexto que se adaptan a tu agente
  • Detección automatizada de vulnerabilidades en distintas categorías (alucinaciones, contradicciones, divulgación de datos, inyecciones de prompts, contenido inapropiado, etc.)
  • Estudio de anotación orientado al negocio para adaptar las pruebas a las necesidades del mundo real
  • Ejecución de pruebas y prevención de regresiones mediante completas suites de pruebas y un SDK de Python
  • Integración con pilas de observabilidad y seguridad de nivel empresarial (RBAC, inicio de sesión único [SSO] y cifrado)
  • Implementación local o en la nube, con infraestructura alojada en la UE y cumplimiento del RGPD
  • Supervisión proactiva para detectar problemas antes de llegar a producción y de que se conviertan en obstáculos para la adopción
  • Funciones de colaboración que conectan a los equipos técnicos con las partes interesadas del negocio
  • Enfoque respaldado por la investigación, con puntos de referencia Phare y colaboraciones con el sector

Qué diferencia a Giskard

  • Cobertura exhaustiva de vulnerabilidades en sistemas de IA, incluidas alucinaciones, sesgos y brechas de cumplimiento empresarial
  • Detección proactiva de vulnerabilidades durante todo el ciclo de vida de la IA, no solo después de la implementación
  • Pruebas sensibles al dominio que aprovechan bases de conocimiento internas y datos externos sobre amenazas
  • Seguridad y gobernanza de nivel empresarial, con gestión de datos conforme al RGPD
  • Opciones de implementación flexibles (en local o en la nube con alojamiento en la UE) e integración sencilla con las herramientas existentes
  • Herramientas colaborativas que reúnen a especialistas del negocio y desarrolladores para realizar pruebas
  • Colaboraciones activas en investigación y experiencia con grandes equipos de IA

Lanzamientos de esta empresa

Esta empresa todavía no ha publicado ningún lanzamiento.