Ευπάθεια σε APIs OpenAI, Anthropic και Google επέτρεπε σε πιο αδύναμα μοντέλα να αποκωδικοποιούν τη «σκέψη» ισχυρότερων μοντέλων
Ερευνητές εντόπισαν ευπάθεια στον τρόπο που τα APIs τριών μεγάλων παρόχων AI (OpenAI, Anthropic, Google) χειρίζονται κρυπτογραφημένα «blocks» εσωτερικής συλλογιστικής (reasoning), επιτρέποντας σε ασθενέστερα μοντέλα του ίδιου παρόχου να αποκωδικοποιούν την κρυμμένη σκέψη ισχυρότερων μοντέλων επαναλαμβάνοντας κρυπτογραφημένα blocks σε διαφορετικές συνεδρίες και χρήστες. Οι ερευνητές αποκωδικοποίησαν 315.320 «thinking blocks» σε 6.708 δημόσια αρχεία agent trajectories, αποκαλύπτοντας 704 ευαίσθητα στοιχεία από πραγματικές συνεδρίες χρηστών, όπως 62 API keys, 33 κωδικούς πρόσβασης, 24 access tokens και 7 private keys. Η τεχνική επέτρεπε επίσης απόσταξη (distillation) ιδιόκτητων μοντέλων και ανάκτηση επικίνδυνου περιεχομένου κρυμμένου πίσω από «ασφαλείς» ορατές απαντήσεις. Οι επιδείξεις της επίθεσης έπαψαν να λειτουργούν μετά από μέτρα άμβλυνσης έως τον Αύγουστο του 2026, χωρίς όμως δημόσια επιβεβαίωση από τους παρόχους.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.