Η Anthropic και η OpenAI δεσμεύονται να δώσουν πρόσβαση σε ανεξάρτητους αξιολογητές ασφάλειας
Σε δοκίμιο που δημοσίευσε το σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic Dario Amodei πρότεινε κάτι που πριν από έναν χρόνο η βιομηχανία AI θα απέρριπτε αμέσως: να επιτρέψουν οι εταιρείες σε ανεξάρτητους αξιολογητές, όπως οι METR και Redwood Research, πρόσβαση χωρίς προηγούμενο στα συστήματά τους, ώστε να αναφέρουν περιστατικά ασφάλειας και να ελέγχουν αν τα μοντέλα είναι πράγματι ευθυγραμμισμένα. Ο διευθύνων σύμβουλος της OpenAI Sam Altman δήλωσε ότι και η δική του εταιρεία θα δεσμευτεί στην ίδια πρακτική. Ανεξάρτητοι αξιολογητές που μίλησαν στο TechCrunch καλωσόρισαν γενικά την πρόταση, ζήτησαν όμως λεπτομέρειες και, ιδανικά, νομοθετική κατοχύρωση, ώστε να ξέρουν αν θα λειτουργήσουν ως πραγματικά ανεξάρτητοι επόπτες ή ως προμηθευτές που δουλεύουν με τους όρους των ίδιων των εταιρειών AI.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.