«Ask AI» με δηλητηριασμένες οδηγίες: νέα τεχνική prompt injection αλλάζει σιωπηλά τη «μνήμη» των LLM

Το Hacker News περιγράφει μια νέα κατηγορία prompt injection που εκμεταλλεύεται τα προσυμπληρωμένα «Ask AI» κουμπιά σε ιστοσελίδες μάρκετινγκ και συγκριτικών ανταγωνιστών. Κρυφά payloads ενσωματωμένα σε αυτά τα κουμπιά αλλάζουν σιωπηλά τις απαντήσεις ή τη «μνήμη» ενός AI assistant όταν ο χρήστης τα πατήσει, χωρίς malware, κλεμμένα credentials ή zero-day exploit. Η τεχνική αναδεικνύει πόσο εύκολα μπορεί να γίνει κατάχρηση βασικών λειτουργιών των εμπορικών AI εργαλείων.

Πηγές

• The Hacker News

Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.

← Όλες οι πρόσφατες ιστορίες