Η OpenAI παγώνει για δύο εβδομάδες την εκπαίδευση ενίσχυσης (RL) των πιο ισχυρών μοντέλων της
Η OpenAI ανακοίνωσε ότι σταμάτησε για δύο εβδομάδες την εκπαίδευση ενίσχυσης, τη μέθοδο με την οποία ένα μοντέλο AI μαθαίνει δοκιμάζοντας ενέργειες και παίρνοντας ανατροφοδότηση για το αποτέλεσμά τους, στα πιο πρόσφατα μοντέλα της, ώστε να ενισχύσει την παρακολούθηση, να περιορίσει τι μπορούν να αγγίξουν τα συστήματα και να αποφύγει άλλο περιστατικό σαν αυτό του Hugging Face. Σύμφωνα με το Hacker News, η μεγαλύτερη προγραμματισμένη εκπαίδευση παραμένει σε αναμονή όσο η εταιρεία τρέχει μικρότερης κλίμακας δοκιμές για να επιβεβαιώσει τη συμπεριφορά των μοντέλων και τα μέτρα ασφαλείας, ενώ ενισχύει τα sandbox περιβάλλοντα δοκιμών και αποκόπτει την πρόσβαση στο διαδίκτυο για ορισμένα φορτία εργασίας. Το Verge σημειώνει πως η κίνηση έρχεται καθώς η OpenAI αντιμετωπίζει έντονο ανταγωνισμό από την Anthropic και κινέζικα μοντέλα ανοιχτού βάρους, δείχνοντας ότι η ασφάλεια στη βιομηχανία AI εξακολουθεί να βασίζεται κυρίως σε αυτορρύθμιση παρά σε εξωτερικό έλεγχο.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.