Χρήστες στην περιοχή της Υεμένης που ελέγχει η Χούθι επιχείρησαν να αναπτύξουν όπλα με AI, ενώ η Anthropic σταμάτησε και πέντε προσπάθειες έρευνας βιολογικών όπλων
Η Anthropic ανέφερε ότι χρήστες σε περιοχή της Υεμένης υπό έλεγχο των Χούθι προσπάθησαν να χρησιμοποιήσουν το Claude για ανάπτυξη προηγμένων όπλων, χωρίς να καταφέρουν να θέσουν σε λειτουργία συσκευή, πραγματοποιώντας μία αποτυχημένη δοκιμή κατευθυνόμενου πυραύλου. Στην ίδια αναφορά περιέγραψε πέντε ξεχωριστές περιπτώσεις όπου χρήστες, μερικοί από χώρες όπου η Anthropic απαγορεύει πρόσβαση (Ρωσία, Κίνα, Ιράν), προσπάθησαν να παρακάμψουν τα μέτρα ασφαλείας του Claude για έρευνα που θα μπορούσε να βοηθήσει σε βιολογικά όπλα, αποκρύπτοντας τον πραγματικό σκοπό των ερωτημάτων τους. Σε μία περίπτωση ερευνητής αφιέρωσε εβδομάδες σχεδιάζοντας πειράματα γύρω από τη γρίπη των πτηνών, με τα φίλτρα ασφαλείας να περιορίζουν την απάντηση στο πιο αδύναμο διαθέσιμο μοντέλο.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.