Νέα τεχνική «Compaction Smuggling» παρέκαμψε τα μέτρα της OpenAI κατά της κλοπής εσωτερικής συλλογιστικής μοντέλων AI
Η εταιρεία ασφάλειας Xint ανακοίνωσε ότι εντόπισε αδυναμία στη διαδικασία compaction της OpenAI, το βήμα όπου η συσσωρευμένη ιστορία μιας συνομιλίας συμπιέζεται σε περίληψη πριν γεμίσει το παράθυρο context ενός μοντέλου, η οποία επέτρεπε να μετακινηθεί η κρυμμένη εσωτερική συλλογιστική ενός μοντέλου σε άλλο, κάτι που θα μπορούσε να φθηνύνει σημαντικά την κατασκευή ανταγωνιστικού μοντέλου μέσω distillation (τεχνική εκπαίδευσης μικρότερου μοντέλου ώστε να μιμείται τις ικανότητες ενός μεγαλύτερου). Η τεχνική, που η Xint ονόμασε Compaction Smuggling, παρέκαμπτε τα μέτρα που είχε ήδη εφαρμόσει η OpenAI τον Αύγουστο μετά από προγενέστερη έρευνα για κλοπή συλλογιστικής, αφού εκείνα τα μέτρα εμπόδιζαν μόνο την αναπαραγωγή της συλλογιστικής σε διαφορετικό μοντέλο, όχι μέσα στο ίδιο μοντέλο που την παρήγαγε, όπου λειτουργεί η νέα κλήση compaction. Η OpenAI επιβεβαίωσε το πρόβλημα, το διόρθωσε και πλήρωσε στην Xint αμοιβή 6.000 δολαρίων στις 23 Οκτωβρίου, ενώ η αμερικανική CISA είχε ήδη προειδοποιήσει τον Σεπτέμβριο ότι κινεζικές εταιρείες όπως η DeepSeek, η Alibaba και η Moonshot AI έχουν αντλήσει δισεκατομμύρια tokens από δυτικά μοντέλα αιχμής για να εκπαιδεύσουν τα δικά τους. Για μια επιχείρηση που βασίζει προϊόν της σε ιδιόκτητο μοντέλο AI μέσω API, η υπόθεση δείχνει ότι η προστασία της εσωτερικής συλλογιστικής ενός μοντέλου είναι συνεχής κούρσα διορθώσεων, όχι εφάπαξ λύση.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.