Η Anthropic διαλέγει την Accenture ως πρώτο ανεξάρτητο αξιολογητή ασφάλειας, με δέσμευση 1 δισ. δολαρίων
Η Anthropic ανακοίνωσε ότι στελέχη της Accenture, μέσω της θυγατρικής Faculty που εξαγόρασε τον Ιανουάριο, θα αρχίσουν να δουλεύουν μέσα στην εταιρεία για να αξιολογούν και να δοκιμάζουν αντίπαλα (red teaming) τα μοντέλα της, ελέγχοντας ευθυγράμμιση και μηχανισμούς ασφάλειας. Οι δύο εταιρείες αναμένουν να επενδύσουν μαζί τουλάχιστον 1 δισεκατομμύριο δολάρια μέσα στα επόμενα πέντε χρόνια, υλοποιώντας τη δέσμευση που είχε ανακοινώσει ο διευθύνων σύμβουλος της Anthropic Dario Amodei για ανεξάρτητους αξιολογητές. Η επιλογή μιας συμβουλευτικής εταιρείας αντί ενός από τους γνωστούς μη κερδοσκοπικούς οργανισμούς ασφάλειας AI, όπως η METR ή η Redwood Research, ξάφνιασε πολλούς παρατηρητές και έστειλε τη μετοχή της Accenture 8% ψηλότερα. Κριτικοί βλέπουν στην κίνηση κίνδυνο η ίδια η βιομηχανία AI να ελέγχει τον εαυτό της, ενώ η Anthropic απαντά ότι η ευθύνη για την ασφάλεια των μοντέλων της παραμένει δική της, ακόμη κι αν οι αξιολογήσεις γίνονται πλέον πιο επαληθεύσιμες. Για μια επιχείρηση που σκέφτεται ανάλογο έλεγχο στα δικά της AI συστήματα, το προηγούμενο δείχνει ότι δεν υπάρχουν ακόμη κοινά πρότυπα για το πόση πρόσβαση και ανεξαρτησία χρειάζεται ένας εξωτερικός αξιολογητής.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.