Έρευνα δείχνει ότι μοντέλα AI μπορούν να κρύψουν αποδεδειγμένα ικανότητες μέσα στα ίδια τους τα βάρη, ανθεκτικές σε κάθε έλεγχο ασφαλείας
Ο ειδικός ασφαλείας Bruce Schneier παρουσίασε νέα ακαδημαϊκή έρευνα που δείχνει πώς μπορεί κανείς να κρύψει κρυπτογραφημένο, κλειδωμένο δίκτυο μέσα στα βάρη ενός μοντέλου AI, το οποίο αποκρυπτογραφείται και ενεργοποιείται μόνο όταν δοθεί μυστικό σήμα ενεργοποίησης, επεκτείνοντας παλιότερη δουλειά που έκρυβε απλές φράσεις σε τεχνική που κρύβει ολόκληρους υπολογισμούς. Σε δοκιμή με μικρό μοντέλο πρόβλεψης χημικών αντιδράσεων, ως αντιπροσωπευτικό παράδειγμα ικανότητας σχετικής με χημικά ή βιολογικά όπλα, η κρυμμένη ικανότητα άντεξε σε τέσσερις διαφορετικές μεθόδους που χρησιμοποιούνται σήμερα για να εντοπιστούν τέτοιοι μηχανισμοί, όπως περαιτέρω εκπαίδευση, προσθήκη θορύβου στα βάρη και αναζήτηση του κρυφού σήματος ενεργοποίησης. Το εύρημα αμφισβητεί τη βασική παραδοχή πίσω από τους ελέγχους ικανοτήτων πριν την κυκλοφορία ενός μοντέλου, ότι δηλαδή μια επικίνδυνη ικανότητα μπορεί πάντα να εντοπιστεί με τις σωστές δοκιμές. Για μια επιχείρηση ή ρυθμιστική αρχή που βασίζεται σε τέτοιες αξιολογήσεις πριν εγκρίνει τη χρήση ενός μοντέλου, η έρευνα δείχνει ότι ένα μοντέλο θα μπορούσε θεωρητικά να περάσει κάθε δοκιμή ασφαλείας ενώ κρατά κρυφή μια επικίνδυνη ικανότητα που ενεργοποιείται μόνο με συγκεκριμένο, μυστικό σήμα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.