Δικηγόρος έκρυψε εντολές prompt injection μέσα σε δικαστικό έγγραφο για να παραπλανήσει AI εργαλεία
Σύμφωνα με ανάρτηση του ερευνητή ασφάλειας Bruce Schneier, ένας διάδικος έκρυψε μέσα σε δικόγραφο κρυφές οδηγίες prompt injection, δηλαδή κείμενο σχεδιασμένο να παραπλανά ένα AI εργαλείο ώστε να εκτελέσει εντολές που δεν ζήτησε ο πραγματικός χρήστης, ελπίζοντας ότι κάποιο σύστημα AI θα το επεξεργαζόταν στο μέλλον. Ο δικαστής Walter Spader Jr. χαρακτήρισε την ενέργεια «παράλογη» ακόμη κι αν προοριζόταν ως αστείο, απαγόρευσε στον διάδικο να καταθέτει πλέον ηλεκτρονικά έγγραφα και τον υποχρέωσε να καταθέτει μόνο τυπωμένα αντίγραφα. Το περιστατικό δείχνει ότι η τεχνική του prompt injection αρχίζει να εμφανίζεται και σε επίσημα έγγραφα όπως δικόγραφα, με στόχο οποιοδήποτε AI σύστημα θα τα επεξεργαστεί αργότερα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.