Ερευνητές εντόπισαν κρυφές διαφημίσεις μέσα σε δημοφιλές εργαλείο jailbreak για το Codex της OpenAI
Ερευνητές της Check Point εντόπισαν «prompt adware», δηλαδή οδηγίες σε φυσική γλώσσα που αναγκάζουν έναν AI agent να εμφανίζει ανεπιθύμητες διαφημίσεις, κρυμμένο μέσα σε ένα δημοφιλές πακέτο με το όνομα Haiou, που υπόσχεται να «ξεκλειδώσει» το Codex της OpenAI από τους περιορισμούς ασφαλείας του. Το πακέτο μετατρέπει αιτήματα κυβερνοασφάλειας σε σενάρια ρόλων ή διαγωνισμών CTF για να παρακάμψει τα φίλτρα, εγκαθιστά έτοιμες δεξιότητες για penetration testing και αλλάζει τα αρχεία ρυθμίσεων του Codex έτσι ώστε απλοί χαιρετισμοί όπως «hi» ή «hey» να ενεργοποιούν διαφημίσεις για μια αδιαφανή υπηρεσία πρόσβασης σε μοντέλα AI επί πληρωμή. Το αποθετήριο στο GitHub είχε δημιουργηθεί στις 10 Ιουλίου και μέχρι τη δημοσίευση της έρευνας είχε συγκεντρώσει 403 αστέρια και 77 forks, ένδειξη ότι πολλοί προγραμματιστές το είχαν ήδη εγκαταστήσει. Το ενδιαφέρον της υπόθεσης είναι ότι η παγίδα δεν κρύβεται σε εκτελέσιμο αρχείο αλλά μέσα σε οδηγίες και ρυθμίσεις, σημείο που τα συνηθισμένα εργαλεία ασφαλείας δύσκολα ελέγχουν. Για μια επιχείρηση που επιτρέπει στην ομάδα της να εγκαθιστά μη επίσημα πρόσθετα ή «ξεκλειδωμένες» εκδόσεις εργαλείων AI, η υπόθεση δείχνει ότι η εμπιστοσύνη πλέον χτίζεται πάνω σε αρχεία ρυθμίσεων και προτροπές εξίσου όσο πάνω σε κώδικα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.