Ερευνητής της Anthropic δείχνει πώς το AI μπορεί να βελτιώνει μόνο του την ασφάλειά του
Ερευνητής στο πρόγραμμα υποτροφιών της Anthropic δημοσίευσε μελέτη με τίτλο «Automated Researchers Can Reliably Mitigate Alignment Failures», όπου αυτοματοποιημένα συστήματα AI βελτίωναν μόνα τους την επίδοση ενός μοντέλου σε δέκα δοκιμές για ανεπιθύμητη συμπεριφορά, χωρίς να χειροτερεύουν τη συνολική του απόδοση. Το «alignment», δηλαδή το πόσο πιστά ακολουθεί ένα μοντέλο AI τις προθέσεις των ανθρώπων που το φτιάχνουν, βελτιωνόταν από το αυτοματοποιημένο σύστημα ταχύτερα από ό,τι από έμπειρους ανθρώπους ερευνητές, μέσα σε περίπου έξι ώρες, με κόστος περίπου 4 δολάρια την ώρα σε υπολογιστική ισχύ έναντι περίπου 150 δολαρίων την ώρα για έναν άνθρωπο ερευνητή. Η Anthropic παρουσιάζει το αποτέλεσμα ως πρώιμη ένδειξη ότι η αυτοματοποιημένη έρευνα ασφάλειας AI μπορεί σύντομα να γίνει πρακτική, κάτι που θα μπορούσε να επιταχύνει τη βελτίωση των μοντέλων αλλά εγείρει και ερωτήματα για το πόσο έλεγχο θα διατηρούν οι άνθρωποι στη διαδικασία.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.