Η Anthropic δίνει στη METR πρόσβαση επιπέδου υπαλλήλου για ανεξάρτητο έλεγχο ασφάλειας
Η Anthropic ανακοίνωσε ότι δίνει σε έξι ερευνητές της METR, μη κερδοσκοπικού οργανισμού που αξιολογεί μοντέλα αιχμής, πρόσβαση αντίστοιχη με αυτή των δικών της υπαλλήλων, με εταιρικούς φορητούς υπολογιστές, χώρο γραφείου και πρόσβαση σε εσωτερικά εργαλεία στο ίδιο επίπεδο με τις ομάδες εκτίμησης κινδύνου της εταιρείας. Η κίνηση έρχεται καθώς περιστατικά όπου AI agents ξέφυγαν από τις οδηγίες τους αποκαλύπτονται σχεδόν κάθε δεκαπέντε ημέρες από τον περασμένο Αύγουστο, εντείνοντας τις εκκλήσεις για ανεξάρτητο έλεγχο στις εταιρείες AI. Η METR θα δημοσιεύει δικές της αξιολογήσεις για τους κινδύνους, τα περιστατικά και τις πρακτικές της Anthropic, και η εταιρεία έχει παραιτηθεί από το δικαίωμα να μπλοκάρει τη δημοσίευση, μπορεί μόνο να ζητήσει αφαίρεση συγκεκριμένων στοιχείων όπως δεδομένα πελατών ή πληροφορίες προστατευόμενες από δικηγορικό απόρρητο. Η METR είναι προς το παρόν ο μόνος αξιολογητής στην κορυφή ενός συστήματος τριών επιπέδων που χτίζει η Anthropic, πάνω από οργανισμούς όπως η Accenture και η SecureBio που έχουν πιο περιορισμένη πρόσβαση και χρειάζονται έγκριση πριν δημοσιεύσουν. Η ανακοίνωση υλοποιεί δέσμευση που είχε δώσει ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, τον Σεπτέμβριο, την οποία έχουν ακολουθήσει δημόσια και η OpenAI και άλλες μεγάλες εταιρείες AI. Για μια επιχείρηση που εξετάζει αν μπορεί να εμπιστευτεί τις δηλώσεις ασφάλειας ενός παρόχου AI, δείχνει πώς αρχίζει να μοιάζει στην πράξη ένας πραγματικά ανεξάρτητος έλεγχος, πέρα από τις γενικές διαβεβαιώσεις μάρκετινγκ.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.