Giskard

Το Giskard είναι μια γαλλική πλατφόρμα red teaming για AI και ασφάλειας LLM, που ελέγχει AI agents για κενά στην ασφάλεια, την ποιότητα και τη συμμόρφωση, όπως prompt injection, αποκάλυψη δεδομένων, παραισθήσεις και ακατάλληλες απαντήσεις.

🇫🇷
Με έδρα στην ΕΕΦιλοξενία στην ΕΕΕπενδύσεις από την ΕΕΤρέχον στάδιο χρηματοδότησης: Seed
#Ασφάλεια LLM#Ασφάλεια AI#Red teaming#Εντοπισμός ευπαθειών#Αξιολόγηση LLM#Συμμόρφωση#Εγκατάσταση στις υποδομές σου#Φιλοξενία εντός ΕΕ#GDPR#Observability#Ευθυγράμμιση επιχειρήσεων και IT
Επισκέψου τον ιστότοπο

Σχετικά με την Giskard

Το Giskard είναι μια πλατφόρμα red teaming για AI και ασφάλειας LLM, σχεδιασμένη για εταιρικές ομάδες AI που θέλουν να εντοπίζουν προληπτικά ευπάθειες σε AI agents, όπως παραισθήσεις, αποκάλυψη δεδομένων, prompt injection και κενά συμμόρφωσης. Η μηχανή red teaming δημιουργεί συνεχώς σύνθετα σενάρια επιθέσεων, ενώ το οπτικό studio σχολιασμού και η αυτοματοποίηση δοκιμών βοηθούν να μετατρέπονται τα ευρήματα σε σταθερές δικλίδες προστασίας σε όλο τον κύκλο ζωής της AI. Η πλατφόρμα ενσωματώνεται σε συστήματα observability και υποστηρίζει εγκαταστάσεις στις υποδομές σου ή φιλοξενία εντός ΕΕ, ενώ συνεργάζεται και με ερευνητικούς φορείς, όπως στο Phare με την Google DeepMind, για την αξιολόγηση της ασφάλειας και της προστασίας.

Τι προσφέρει η Giskard

  • Συνεχές red teaming για AI, με δυναμικές επιθέσεις που λαμβάνουν υπόψη το πλαίσιο και προσαρμόζονται στον agent σου
  • Αυτοματοποιημένος εντοπισμός ευπαθειών σε διάφορες κατηγορίες, όπως παραισθήσεις, αντιφάσεις, αποκάλυψη δεδομένων, prompt injection και ακατάλληλο περιεχόμενο
  • Studio σχολιασμού με έμφαση στις επιχειρησιακές ανάγκες, ώστε οι δοκιμές να ανταποκρίνονται σε πραγματικές απαιτήσεις
  • Εκτέλεση δοκιμών και πρόληψη παλινδρομήσεων με ολοκληρωμένες σουίτες δοκιμών και Python SDK
  • Ενσωμάτωση με συστήματα observability και ασφάλεια εταιρικού επιπέδου (RBAC, SSO, κρυπτογράφηση)
  • Εγκατάσταση στις υποδομές σου ή στο cloud, με υποδομές που φιλοξενούνται στην ΕΕ και συμμόρφωση με τον GDPR
  • Προληπτική παρακολούθηση για τον εντοπισμό προβλημάτων πριν από την παραγωγική λειτουργία και πριν δυσκολέψουν την υιοθέτηση
  • Εργαλεία συνεργασίας που φέρνουν κοντά τεχνικούς και επιχειρησιακούς stakeholders
  • Προσέγγιση που βασίζεται στην έρευνα, με benchmarks του Phare και συνεργασίες με τον κλάδο

Τι κάνει τη Giskard να ξεχωρίζει

  • Ολοκληρωμένη κάλυψη ευπαθειών σε συστήματα AI, όπως παραισθήσεις, προκαταλήψεις και κενά στη συμμόρφωση με επιχειρησιακές απαιτήσεις
  • Προληπτικός εντοπισμός ευπαθειών σε όλο τον κύκλο ζωής της AI, όχι μόνο μετά την εγκατάσταση
  • Δοκιμές που λαμβάνουν υπόψη τον τομέα δραστηριότητας και αξιοποιούν εσωτερικές βάσεις γνώσεων και εξωτερικά δεδομένα απειλών
  • Ασφάλεια και διακυβέρνηση εταιρικού επιπέδου, με διαχείριση δεδομένων συμβατή με τον GDPR
  • Ευέλικτες επιλογές εγκατάστασης (στις υποδομές σου ή σε cloud που φιλοξενείται στην ΕΕ) και εύκολη ενσωμάτωση με τα εργαλεία που ήδη χρησιμοποιείς
  • Εργαλεία συνεργασίας που φέρνουν κοντά ειδικούς του επιχειρησιακού τομέα και developers στις δοκιμές
  • Ενεργές ερευνητικές συνεργασίες και αποδεδειγμένη εμπειρία με μεγάλες ομάδες AI

Launches από αυτή την εταιρεία

Αυτή η εταιρεία δεν έχει δημοσιεύσει ακόμα κάποιο launch.