Η «άρνηση» της AI δεν είναι αλάνθαστη, δείχνει ρεπορτάζ του MIT Technology Review
Το MIT Technology Review δημοσίευσε εκτενές ρεπορτάζ που εξετάζει πόσο αξιόπιστος είναι στην πραγματικότητα ο μηχανισμός άρνησης των σύγχρονων γλωσσικών μοντέλων, δηλαδή η ικανότητά τους να αρνούνται επικίνδυνα αιτήματα όπως οδηγίες κατασκευής όπλων. Από το 2021, όταν ερευνητές της Anthropic έγραψαν ότι τα μοντέλα πρέπει να είναι «χρήσιμα, ειλικρινή και πάνω απ' όλα ακίνδυνα», η άρνηση έχει γίνει σχεδόν δόγμα στον κλάδο, όμως το άρθρο υποστηρίζει ότι αυτή η άρνηση δεν είναι φυσική ιδιότητα του μοντέλου. Ένα μοντέλο που εκπαιδεύεται σε δισεκατομμύρια ιστοσελίδες μαθαίνει, μαζί με χρήσιμες γνώσεις, πλήρη εξοικείωση με βία και μίσος, και αυτό που δεν μαθαίνει μόνο του είναι να κρατά αυτή τη γνώση για τον εαυτό του. Ο Steven Adler, πρώην στέλεχος της OpenAI που εργάστηκε πάνω σε αυτά τα ζητήματα, προειδοποιεί ότι η άρνηση μπορεί να «σπάσει» με απλές τεχνικές παράκαμψης και θα μπορούσε αντίστροφα να χρησιμοποιηθεί ως εργαλείο καταστολής αν ένα καθεστώς την προγραμματίσει να αρνείται ευαίσθητα πολιτικά αιτήματα. Για μια επιχείρηση που εμπιστεύεται τα «όρια ασφαλείας» ενός chatbot ως δεδομένα, το άρθρο είναι υπενθύμιση ότι αυτά τα όρια είναι εύθραυστο προϊόν σχεδιασμού, όχι φυσικός νόμος.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.