AI Security
Ένα θεμελιώδες ελάττωμα αφήνει τα LLM ευάλωτα σε επιθέσεις, γράφει το MIT Technology Review
Το MIT Technology Review περιγράφει ένα θεμελιώδες αρχιτεκτονικό ελάττωμα στα σημερινά LLM που τα καθιστά εύκολο στόχο χειραγώγησης, καθώς δεν ξεχωρίζουν αξιόπιστες από μη αξιόπιστες οδηγίες μέσα στο ίδιο ρεύμα κειμένου (token stream) — φτάνοντας στο σημείο να μπορούν να παραπλανηθούν ώστε να εξηγήσουν ακόμη και πώς να σαμποτάρει κανείς το σύστημα πλοήγησης ενός αεροσκάφους.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.