Η OpenAI διέκοψε εκστρατεία εξαγωγής συλλογιστικής που συνδέεται με συνεργάτες της Moonshot AI
Η OpenAI ανακοίνωσε ότι εντόπισε και διέκοψε μια συντονισμένη εκστρατεία distillation, τεχνική με την οποία κάποιος αντιγράφει τις ικανότητες ενός μοντέλου AI στέλνοντάς του πολλές ερωτήσεις και μαθαίνοντας από τις απαντήσεις, που στόχευε να αντλήσει την προστατευμένη συλλογιστική των μοντέλων της. Η εταιρεία συνέδεσε τον βασικό πυρήνα της δραστηριότητας με άτομα που σχετίζονται με τη Moonshot AI, κινεζική εταιρεία AI με έδρα το Πεκίνο, χωρίς ωστόσο να παρουσιάσει τεχνικά στοιχεία που να τεκμηριώνουν τη σύνδεση. Σύμφωνα με την OpenAI, η δραστηριότητα ξεκίνησε την 1η Ιουλίου σε χαμηλό ρυθμό και κλιμακώθηκε απότομα στις 24 Ιουλίου, χωρίς οι επιτιθέμενοι να παραβιάσουν κρυπτογράφηση ή βάση δεδομένων, αντ' αυτού χειραγώγησαν τις αλληλεπιδράσεις με το μοντέλο ώστε να εμφανίζεται στον χρήστη η εσωτερική συλλογιστική που κανονικά μένει κρυφή, κάτι που παραβιάζει τους όρους χρήσης. Για επιχειρήσεις που βασίζουν το προϊόν τους σε ιδιόκτητα μοντέλα AI, η υπόθεση δείχνει ότι η πνευματική ιδιοκτησία ενός μοντέλου μπορεί να διαρρεύσει μέσα από κανονική χρήση του API, χωρίς καμία παραβίαση συστήματος με την κλασική έννοια.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.