Νέες μελέτες δείχνουν ότι τα μοντέλα AI διαρρέουν προσωπικά δεδομένα από τη μνήμη τους σε λάθος περιστάσεις
Δύο ακαδημαϊκές εργασίες που παρουσίασε ο ερευνητής ασφαλείας Bruce Schneier εξετάζουν το πρόβλημα της «contextual integrity», δηλαδή αν ένα μοντέλο γλώσσας αποφασίζει σωστά τι στοιχεία από τη μνήμη προηγούμενων συνομιλιών επιτρέπεται να μοιραστεί σε μια νέα εργασία. Το πρώτο benchmark, με το όνομα CIMemories, βρήκε παραβιάσεις σε ποσοστό έως 69% σε επίπεδο μεμονωμένου χαρακτηριστικού, ενώ στο GPT-5 οι παραβιάσεις ανέβηκαν από 0,1% σε 9,6% όσο αυξάνονταν οι εργασίες, φτάνοντας το 25,1% όταν η ίδια εντολή επαναλαμβανόταν πέντε φορές. Η δεύτερη μελέτη δοκίμασε να διορθώσει το πρόβλημα με reinforcement learning πάνω σε συλλογιστική σχετική με το πλαίσιο, μειώνοντας σημαντικά τις ανεπίτρεπτες αποκαλύψεις χωρίς να χάνεται η χρησιμότητα του μοντέλου στην εργασία. Και οι δύο εργασίες καταλήγουν ότι απλές οδηγίες προσοχής στην ιδιωτικότητα δεν αρκούν, αφού τα μοντέλα τείνουν είτε να μοιράζονται τα πάντα είτε τίποτα, χωρίς πραγματική διάκριση ανάλογα με την περίσταση.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.