Μελέτη: οι μεγάλες εταιρείες AI δεν εξηγούν πώς θα σταματήσουν ένα μοντέλο που ξεφεύγει από τον έλεγχο
Νέα μελέτη του οργανισμού Guidelight AI Standards βαθμολόγησε την OpenAI, την Anthropic, τη Google, τη Meta και την xAI ως προς την ετοιμότητά τους να περιορίσουν ένα μοντέλο AI που θα προσπαθήσει να παρακάμψει τον ανθρώπινο έλεγχο, εξετάζοντας αν καταγράφουν τη δραστηριότητα των συστημάτων τους, αν τη διακόπτουν ύστερα από ύποπτη συμπεριφορά και αν επιτρέπουν ανεξάρτητο έλεγχο από τρίτους. Η OpenAI βγήκε πρώτη στη βαθμολογία, ενώ η Anthropic και η Meta βρέθηκαν στις χαμηλότερες θέσεις, αν και οι περισσότερες εταιρείες δεν έχουν δημοσιεύσει ή αποδείξει συγκεκριμένο σχέδιο περιορισμού. Το ζήτημα αποκτά βάρος όσο τα AI agents αναλαμβάνουν πιο ενεργό ρόλο μέσα σε εταιρικά συστήματα, ενώ η Καλιφόρνια και η Νέα Υόρκη ξεκινούν να απαιτούν δημόσια αναφορά αυτών των σχεδίων.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.