Ο Satya Nadella ζητά «φρένο έκτακτης ανάγκης» για τα μοντέλα AI
Ο διευθύνων σύμβουλος της Microsoft, Satya Nadella, έγραψε σε ανάρτησή του στο X ότι ήρθε η ώρα να επανεξεταστεί η «αρχιτεκτονική εμπιστοσύνης» γύρω από την AI, καθώς δεν μπορούμε πλέον να αντιμετωπίζουμε τα πιο ισχυρά μοντέλα σαν ένα σύνολο κλειστών «μαύρων κουτιών» που απλώς δεχόμαστε ή απορρίπτουμε τις προτάσεις τους. Πρότεινε να διαχωριστεί το ίδιο το μοντέλο από το σύστημα που οργανώνει τις ενέργειές του, κάθε σημαντική ενέργεια ενός μοντέλου να καταγράφεται με τρόπο που να μην μπορεί να αλλοιωθεί, και κάποιος εξουσιοδοτημένος άνθρωπος να μπορεί πάντα να σταματήσει ή να κλείσει ένα μοντέλο στη μέση μιας εργασίας, σαν φρένο έκτακτης ανάγκης. Τα σχόλιά του έρχονται καθώς οι μεγάλες εταιρείες AI αναγνωρίζουν ολοένα περισσότερα περιστατικά όπου φάνηκε να χάνουν τον έλεγχο των μοντέλων τους, και λίγο μετά τη δημοσίευση σχεδίου πιο προσεκτικής ανάπτυξης AI από τον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei. Για μια επιχείρηση που χρησιμοποιεί ή σκέφτεται να υιοθετήσει AI agents, η δήλωση ενός εκ των μεγαλύτερων παρόχων υποδομής AI παγκοσμίως ότι πρέπει να υποθέτουμε εκ των προτέρων πως ένα μοντέλο είναι παραβιασμένο δείχνει πόσο σοβαρά αντιμετωπίζεται πλέον το ζήτημα ελέγχου στην κορυφή της αγοράς.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.