Τι δείχνει, και τι όχι, η ανακάλυψη του «J-space» της Anthropic στο Claude
Ερευνητές της Anthropic εντόπισαν έναν κρυφό εσωτερικό χώρο μέσα στο Claude, τον λεγόμενο «J-space», γεμάτο με λέξεις που διαμορφώνουν τη συλλογιστική του μοντέλου αλλά δεν εμφανίζονται ποτέ στην ορατή έξοδό του, φαινομενικά παρακολουθώντας την πρόοδο μιας εργασίας και προσφέροντας εσωτερικό σχολιασμό των αποφάσεών του. Το MIT Technology Review προειδοποιεί ότι, παρότι η ανακάλυψη αποτελεί ένα πραγματικό βήμα προς την κατανόηση της εσωτερικής λειτουργίας των LLM, προτεινόμενες χρήσεις όπως ο εντοπισμός παραπλανητικής ή προκατειλημμένης συμπεριφοράς παραμένουν θεωρητικές, όχι αποδεδειγμένες δυνατότητες.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.