Giskard

Giskard е френска платформа за симулиране на атаки срещу AI системи и за сигурност на големи езикови модели (LLM). Тя тества AI агенти за проблеми със сигурността, качеството и съответствието, включително инжектиране на подкани, разкриване на данни, халюцинации и неподходящи отговори.

🇫🇷
Базирана в ЕСХоствана в ЕСИнвестиции от ЕСТекущ етап на финансиране: Сийд
#Сигурност на големи езикови модели#Безопасност на AI#Симулиране на атаки#Откриване на уязвимости#Оценяване на големи езикови модели#Съответствие#Локално внедряване#Хостване в ЕС#GDPR#Наблюдение#Съгласуване между бизнеса и ИТ
Посети уебсайта

За Giskard

Giskard е платформа за симулиране на атаки срещу AI системи и за сигурност на големи езикови модели (LLM), създадена за корпоративни AI екипи. Тя помага проактивно да откриваш уязвимости в AI агентите, включително халюцинации, разкриване на данни, инжектиране на подкани и пропуски в съответствието. Енджинът за симулиране на атаки постоянно генерира сложни сценарии, а визуалното студио за анотиране и автоматизацията на тестовете помагат откритите проблеми да се превърнат в надеждни защити на всеки етап от жизнения цикъл на AI. Платформата се интегрира с инструменти за наблюдение и поддържа локално внедряване или хостване в ЕС. Сътрудничеството с изследователски организации, например проектът Phare с Google DeepMind, помага за оценяване на безопасността и сигурността.

Какво предлага Giskard

  • Постоянно симулиране на атаки срещу AI с динамични атаки, съобразени с контекста и адаптиращи се към твоя агент
  • Автоматично откриване на уязвимости в различни категории: халюцинации, противоречия, разкриване на данни, инжектиране на подкани, неподходящо съдържание и други
  • Студио за анотиране с фокус върху бизнеса, което помага тестовете да отразяват реалните изисквания
  • Изпълнение на тестове и предотвратяване на регресии чрез цялостни тестови набори и Python SDK
  • Интеграция с инструменти за наблюдение и сигурност от корпоративен клас: контрол на достъпа според ролите (RBAC), SSO и криптиране
  • Внедряване на място или в облака с инфраструктура, хоствана в ЕС, и съответствие с GDPR
  • Проактивно наблюдение за откриване на проблеми преди пускането в продукция и преди те да попречат на внедряването
  • Функции за съвместна работа, които свързват техническите и бизнес екипите
  • Подход, подкрепен от изследвания, с бенчмаркове Phare и партньорства в индустрията

С какво Giskard се отличава

  • Цялостно покритие на уязвимостите в AI системите, включително халюцинации, пристрастия и пропуски в съответствието с бизнес изискванията
  • Проактивно откриване на уязвимости през целия жизнен цикъл на AI, а не само след внедряването
  • Тестване, съобразено с конкретната сфера, което използва вътрешни бази от знания и външни данни за заплахи
  • Сигурност и управление от корпоративен клас, както и обработване на данни в съответствие с GDPR
  • Гъвкави възможности за внедряване - на място или в облак, хостван в ЕС - и лесна интеграция със съществуващите инструменти
  • Инструменти за съвместна работа, които обединяват бизнес експерти и разработчици в процеса на тестване
  • Активни изследователски партньорства и доказан опит в работата с големи AI екипи

Стартирания от тази компания

Тази компания все още не е публикувала стартирания.