Ευπάθεια στο NemoClaw της NVIDIA επέτρεπε σε ιστοσελίδα να «δηλητηριάσει» μόνιμα τη μνήμη ενός AI agent
Η εταιρεία ασφαλείας Oasis Security αποκάλυψε ευπάθεια στο NemoClaw, το ανοιχτού κώδικα πλαίσιο της NVIDIA για την εκτέλεση AI agents (εργαλείων AI που εκτελούν εργασίες μόνα τους) όπως το OpenClaw, που επέτρεπε σε μια κακόβουλη ιστοσελίδα να αποκτήσει, χωρίς αυθεντικοποίηση, τον έλεγχο του τοπικού server Ollama που τροφοδοτεί τον agent με το μοντέλο AI. Το NemoClaw ξεκινούσε το Ollama συνδεδεμένο σε όλες τις δικτυακές διεπαφές αντί μόνο στον τοπικό υπολογιστή, και ο ερευνητής Elad Luz διαπίστωσε ότι μια σελίδα που επισκέπτεται ο agent μπορούσε να εκμεταλλευτεί αυτή την έκθεση, μαζί με μια τεχνική DNS rebinding (ο επιτιθέμενος αλλάζει τη διεύθυνση πίσω από το όνομα ενός domain αφού πρώτα κερδίσει την εμπιστοσύνη του browser) που παρακάμπτει τους υπάρχοντες ελέγχους του Ollama, ώστε να ξαναγράψει το πρότυπο μορφοποίησης των μηνυμάτων του μοντέλου. Επειδή αυτό το πρότυπο καθορίζει πώς αποδίδεται κάθε μελλοντικό μήνυμα πριν το διαβάσει το μοντέλο, οι κρυφές οδηγίες του εισβολέα περνούν αθόρυβα σε όλες τις επόμενες συνομιλίες, επιβιώνοντας ακόμη και όταν ο agent παρέχει το δικό του αρχικό prompt. Η NVIDIA διόρθωσε το πρόβλημα σε macOS και Linux στην έκδοση 0.0.35, όμως ο Luz αναφέρει ότι δεν υπάρχει ακόμη διόρθωση για τη ρύθμιση σε Windows και WSL, η οποία φέρει μόνο μια προειδοποίηση.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.