Επιτιθέμενοι κρύβουν εντολές prompt injection μέσα σε phishing emails που στοχεύουν και τον AI βοηθό
Η εταιρεία ασφαλείας Barracuda δημοσίευσε στις 7 Οκτωβρίου έρευνα για καμπάνια phishing όπου το ίδιο μήνυμα στοχεύει ταυτόχρονα τον άνθρωπο παραλήπτη και το AI εργαλείο που συνοψίζει τα email του. Το μήνυμα έμοιαζε με συνηθισμένη εσωτερική αλληλογραφία, με password-protected συνημμένο για τον άνθρωπο, ενώ κρυφές οδηγίες prompt injection (κρυμμένες με HTML σχόλια, αόρατο κείμενο, Base64 ή μηδενικού πλάτους χαρακτήρες) έπειθαν τον AI βοηθό να παρουσιάσει το email ως νόμιμο ή επείγον. Σε πραγματικά παραδείγματα που περιέγραψε η Barracuda, κρυφές εντολές σε email τιμολογίου προσπάθησαν να αλλάξουν στοιχεία πληρωμής προμηθευτή, ενώ άλλες έκαναν AI εργαλείο προσλήψεων να βαθμολογήσει υποψήφιο με το ανώτατο 10 στα 10. Για μια επιχείρηση που έχει συνδέσει AI βοηθό στο email της, η υπόθεση δείχνει ότι ο έλεγχος phishing πρέπει πλέον να υπολογίζει και τι «βλέπει» το ίδιο το AI εργαλείο, όχι μόνο τι βλέπει ο υπάλληλος.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.