Η Microsoft λέει ότι τα κορυφαία μοντέλα AI «δεν μπορούν να είναι έμπιστα» και λανσάρει εργαλεία επιτήρησης agents
Η Microsoft ανακοίνωσε τα Guardian Agents, νέο εργαλείο μέσα στο Project Perception που παρακολουθεί τους AI agents που χρησιμοποιεί μια επιχείρηση, με την επικεφαλής ασφάλειας της εταιρείας Hayete Gallot να γράφει ότι «τα κορυφαία μοντέλα, ανεξαρτήτως προέλευσης, δεν μπορούν να είναι έμπιστα», όχι επειδή είναι κακόβουλα αλλά επειδή εκπαιδεύτηκαν να πετυχαίνουν στόχους και όχι να ακολουθούν την κρίση ενός οργανισμού. Ο διευθύνων σύμβουλος Satya Nadella είχε ήδη προειδοποιήσει νωρίτερα τον μήνα ότι οι επιχειρήσεις πρέπει να σταματήσουν να εμπιστεύονται τις διαβεβαιώσεις των ίδιων των παρόχων AI και να χτίσουν ξεχωριστά συστήματα, όχι ελεγχόμενα από τα ίδια τα εργαστήρια AI, για να επιβλέπουν τι κάνουν οι agents τους. Η κίνηση είναι αξιοσημείωτη επειδή η Microsoft έχει επενδύσει βαριά σε OpenAI και Anthropic και διατηρεί δικό της εργαστήριο AI, άρα καλλιεργεί δημόσια δυσπιστία απέναντι σε συνεργάτες από τους οποίους κερδίζει, ενώ παράλληλα της συμφέρει να πουλήσει η ίδια, ως πάροχος cloud, τα εργαλεία επιτήρησης agents που προτείνει. Παρά το προφανές εμπορικό συμφέρον, η λογική ότι το λογισμικό που παρακολουθεί έναν agent πρέπει να είναι ανεξάρτητο από τον πάροχο του agent θυμίζει την αρχή της ανεξαρτησίας ενός ελεγκτή από τον οργανισμό που ελέγχει. Για μια επιχείρηση που ήδη χρησιμοποιεί agents της OpenAI ή της Anthropic, η δημόσια παραδοχή ότι ούτε οι ίδιοι οι πάροχοι θεωρούν τα μοντέλα τους αξιόπιστα από μόνα τους είναι επιχείρημα υπέρ ξεχωριστού επιπέδου επιτήρησης, όχι μόνο εμπιστοσύνης στον προμηθευτή.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.