Υποψιαζόμενος ότι το δικαστήριο χρησιμοποιεί AI, πολίτης «έχωσε» prompts σε δικόγραφα για να κερδίσει την υπόθεσή του
Σύμφωνα με το Ars Technica, δικαστής προειδοποίησε ότι πολίτες χωρίς δικηγόρο (pro se litigants) καταφεύγουν όλο και πιο απελπισμένα σε chatbots για τις υποθέσεις τους, αφού ένας διάδικος, υποψιαζόμενος ότι ο δικαστής ή το προσωπικό του χρησιμοποιεί AI για να διαβάσει τα δικόγραφα, ενσωμάτωσε κρυφές εντολές prompt injection μέσα στο δικό του κείμενο, ελπίζοντας να «πείσει» ένα υποθετικό LLM να αποφανθεί υπέρ του. Το περιστατικό είναι από τα πρώτα τεκμηριωμένα παραδείγματα prompt injection εναντίον δικαστικής διαδικασίας και αναδεικνύει νέο, απρόβλεπτο ρίσκο καθώς το AI διεισδύει σε θεσμούς όπου οι αποφάσεις έχουν νομική βαρύτητα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.