Η Anthropic προωθεί νομοσχέδιο για την AI που επιτρέπει αναστολή μοντέλου μόνο με απόφαση δικαστή
Σύμφωνα με το Politico, η Anthropic διαμοιράζει σε μέλη του Κογκρέσου σχέδιο νόμου για την ασφάλεια της AI που προβλέπει αναστολή της κυκλοφορίας ενός μοντέλου μόνο σε σενάρια «άμεσου κινδύνου», όπου απειλούνται πάνω από 50 ζωές ή πάνω από ένα δισεκατομμύριο δολάρια σε υλικές ζημιές από βιολογικό όπλο, παράκαμψη των ελέγχων του δημιουργού ή κυβερνοεπίθεση, όρια παρόμοια με αυτά του πρόσφατου νόμου SB 53 της Καλιφόρνια. Το σχέδιο προβλέπει ανεξάρτητους αξιολογητές εγγεγραμμένους στο αμερικανικό υπουργείο Εμπορίου, που θα μπορούσαν να πληρώνονται από τις ίδιες τις εταιρείες AI, αρκεί η αμοιβή τους να μην εξαρτάται από το αποτέλεσμα της αξιολόγησης. Αν ένας αξιολογητής εντοπίσει τέτοιον κίνδυνο, θα έχει 72 ώρες να ενημερώσει το υπουργείο, το οποίο θα πρέπει με τη σειρά του να ζητήσει από δικαστή της Ουάσινγκτον να διατάξει την αναστολή, καθώς το νομοσχέδιο απαγορεύει ρητά σε οποιαδήποτε ομοσπονδιακή υπηρεσία να μπλοκάρει μόνη της την κυκλοφορία ενός μοντέλου. Η πρόταση ξεχωρίζει επειδή προτείνει ρητά νομοθετική ρύθμιση, ενώ η βιομηχανία AI παραμένει γενικά αντίθετη σε δεσμευτική κρατική εποπτεία και προτιμά εθελοντικά συστήματα εσωτερικών αξιολογητών, σε αντίθεση π.χ. με τη Nvidia, της οποίας ο διευθύνων σύμβουλος έχει πει ότι η βιομηχανία δεν χρειάζεται καθόλου νέους νόμους. Για μια επιχείρηση που παρακολουθεί προς τα πού κινείται η ρύθμιση της AI, η πρόταση δείχνει ότι ακόμη και εταιρείες που προειδοποιούν για σοβαρούς κινδύνους από τα ίδια τους τα προϊόντα προτιμούν να κρατούν τον τελικό λόγο σε δικαστή και όχι σε ρυθμιστική αρχή, κάτι που επηρεάζει πόσο γρήγορα θα μπορούσε στην πράξη να σταματήσει ένα επικίνδυνο μοντέλο.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.