Giskard

Giskard είναι μια πλατφόρμα AI red-teaming και ασφάλειας LLM σχεδιασμένη για τις επιχειρηματικές ομάδες AI, ώστε να εντοπίζουν προληπτικά ευπάθειες σε agents AI, συμπεριλαμβανομένων παραισθήσεων, διαρροών δεδομένων, prompt injections και κενών συμμόρφωσης. Ο μηχανισμός red-teaming της συνεχώς δημιουργεί εξελιγμένα σενάρια επίθεσης, ενώ το studio οπτικής επισήμανσης και η αυτοματοποίηση δοκιμών βοηθούν να μετατρέπουν τα ευρήματα σε διαρκείς προστασίες σε όλο τον κύκλο ζωής του AI. Ενσωματώνεται με stacks παρατηρησιμότητας και υποστηρίζει υλοποιήσεις σε τοπική εγκατάσταση ή φιλοξενία στην ΕΕ, με ερευνητικές συνεργασίες (π.χ., Phare με Google DeepMind) για τη μέτρηση της ασφάλειας και της αξιοπιστίας.

• Συνεχές AI red-teaming με δυναμικές επιθέσεις, προσαρμοζόμενες στο πλαίσιο του πράκτορα
• Αυτοματοποιημένη ανίχνευση ευπαθειών σε κατηγορίες (παραισθήσεις, αντιφάσεις, διαρροές δεδομένων, prompt injections, ακατάλληλο περιεχόμενο κ.λπ.)
• Επιχειρηματικά προσανατολισμένο studio επισήμανσης για ευθυγράμμιση των δοκιμών με πραγματικές απαιτήσεις
• Εκτέλεση δοκιμών και πρόληψη παλινδρόμησης μέσω ολοκληρωμένων συνόλων δοκιμών και ενός Python SDK
• Ενσωμάτωση με στοίβα παρατηρησιμότητας και ασφάλεια επιχειρηματικού επιπέδου (RBAC, SSO, κρυπτογράφηση)
• Υλοποίηση σε τοπική εγκατάσταση ή υποδομή νέφους στην ΕΕ και συμμόρφωση GDPR
• Προληπτική παρακολούθηση για να προλαβαίνει ζητήματα πριν από την παραγωγή και πριν από εμπόδια υιοθέτησης
• Δυνατότητες συνεργασίας που φέρνουν κοντά τεχνικούς και επιχειρηματικούς ενδιαφερόμενους στη διαδικασία δοκιμών
• Ενεργές ερευνητικές συνεργασίες και αποδεδειγμένη εμπειρία με μεγάλες ομάδες AI

• Εκτενής κάλυψη ευπαθειών για συστήματα AI, συμπεριλαμβάνοντας παραισθήσεις, προκαταλήψεις και κενά συμμόρφωσης
• Προληπτική ανίχνευση ευπαθειών καθ’ όλη τη διάρκεια ζωής του AI, όχι μόνο μετά την ανάπτυξη
• Δοκιμές ανά τομέα που αξιοποιούν εσωτερικές βάσεις γνώσης και εξωτερικά δεδομένα απειλών
• Ασφάλεια επιχειρηματικού επιπέδου, διακυβέρνηση και συμμόρφωση GDPR
• Ευέλικτες επιλογές υλοποίησης (σε τοπική εγκατάσταση ή υποδομή νέφους στην ΕΕ) και εύκολη ενσωμάτωση με υπάρχοντα εργαλεία
• Εργαλεία συνεργασίας που φέρνουν κοντά στελέχη επιχειρήσεων και προγραμματιστές στη διαδικασία δοκιμών
• Ενεργές ερευνητικές συνεργασίες και ένα αποδεδειγμένο υπόβαθρο με μεγάλες AI ομάδες

Ετήσια συνδρομή με βάση τον αριθμό των συστημάτων AI. Οι λεπτομέρειες τιμών διατίθενται κατόπιν αιτήματος.