AI Security
Ευπάθειες σε AWS, Google και Vercel επέτρεπαν να «ενεργοποιηθούν» εργαλεία AI agents χωρίς να τρέξει καν το μοντέλο
Το Hacker News αποκαλύπτει ευπάθειες σε υποδομές AI agents της Amazon Web Services, της Google και της Vercel που επέτρεπαν σε μη έμπιστες ή πλαστές εντολές να φτάνουν στα εργαλεία ενός agent χωρίς κανέναν έλεγχο ότι μια πραγματική «στροφή» του μοντέλου τις είχε εξουσιοδοτήσει. Σε αρκετά από τα σενάρια επίθεσης το μοντέλο AI δεν έτρεξε καν, οπότε τα system prompts, τα φίλτρα περιεχομένου και τα guardrails σε επίπεδο μοντέλου δεν είχαν καμία ευκαιρία να παρέμβουν.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.