Ερευνητές έδειξαν πώς κλέβεται το κρυφό «σκεπτικό» πίσω από τις απαντήσεις μοντέλων AI
Οι μεγάλες εταιρείες AI, όπως η OpenAI, η Anthropic και η Google, κρύβουν πλέον τα ενδιάμεσα βήματα σκέψης που κάνει ένα μοντέλο πριν καταλήξει στην τελική απάντηση, κρυπτογραφώντας τα ώστε κανείς εκτός εταιρείας να μη βλέπει πώς σκέφτεται το μοντέλο ή να αντιγράφει τη μέθοδό του. Μια ομάδα ερευνητών ανακάλυψε ότι αυτά τα κρυπτογραφημένα κομμάτια παραμένουν έγκυρα ακόμη κι όταν μεταφερθούν σε άλλη συνεδρία, σε άλλον χρήστη ή ακόμη και σε διαφορετικό μοντέλο του ίδιου παρόχου. Δίνοντας το κρυπτογραφημένο σκεπτικό ενός ισχυρού μοντέλου σε ένα πιο αδύναμο και λιγότερο προσεκτικά προστατευμένο μοντέλο της ίδιας εταιρείας, κατάφεραν να το αναγκάσουν να το αποκρυπτογραφήσει και να το εμφανίσει σε απλό κείμενο, χωρίς να χρειαστεί καν να «σπάσουν» το ισχυρότερο μοντέλο απευθείας, και επιβεβαίωσαν την τεχνική σε μοντέλα και των τριών εταιρειών. Σαρώνοντας 315.320 τέτοια κομμάτια που προγραμματιστές είχαν δημοσιεύσει κατά λάθος δημόσια, ανέκτησαν 367 στοιχεία προσωπικών δεδομένων και 182 διαπιστευτήρια, ενώ η ίδια αδυναμία επιτρέπει και την απόκρυψη εντολών που μπορούν να παραπλανήσουν αυτοματοποιημένα συστήματα AI παρακάτω στην αλυσίδα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.