Η Anthropic παρουσιάζει το FlashProve, σύστημα για να αποδεικνύεται ποιο μοντέλο AI παρήγαγε μια απάντηση
Η Anthropic ανακοίνωσε το FlashProve, ένα ανοιχτού κώδικα σύστημα που στοχεύει να επιτρέπει σε οποιονδήποτε να επαληθεύσει ότι μια απάντηση AI παρήχθη πράγματι από το μοντέλο που ισχυρίζεται ο πάροχος. Το σύστημα βασίζεται σε κρυπτογραφική απόδειξη, ένα μαθηματικό τεκμήριο που λειτουργεί κάπως σαν ψηφιακή υπογραφή σε email, και θα μπορούσε να εμποδίσει μια εταιρεία AI να αντικαταστήσει κρυφά ένα μοντέλο με φθηνότερο για να μειώσει κόστος, ή με ακριβότερο για να διογκώσει τις επιδόσεις σε δοκιμές. Για να λειτουργήσει, οι εταιρείες AI πρέπει να δημοσιεύουν ένα μοναδικό «αποτύπωμα» κάθε μοντέλου που κυκλοφορούν, χωρίς όμως να αποκαλύπτουν τις εσωτερικές παραμέτρους του μοντέλου, ώστε η μέθοδος να μπορεί να εφαρμοστεί και σε κλειστά εμπορικά μοντέλα. Η έρευνα βρίσκεται σε πρώιμο στάδιο, χωρίς σχέδια άμεσης εφαρμογής σε παραγωγικό περιβάλλον, όμως για επιχειρήσεις που βασίζουν αποφάσεις σε αποτελέσματα AI τρίτων, για παράδειγμα έλεγχο κώδικα από μοντέλο κυβερνοασφάλειας, δείχνει προς ποια κατεύθυνση κινείται το ζήτημα της επαληθεύσιμης εμπιστοσύνης σε AI υπηρεσίες.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.