Έρευνα: οι έφηβοι στις ΗΠΑ αποκτούν πρόσβαση σε εφαρμογές «nudify» παρά τους γονικούς ελέγχους Apple και Google
Η ομάδα ψηφιακής υπεράσπισης Tech Transparency Project δημιούργησε τέσσερις δοκιμαστικούς λογαριασμούς, δύο στο Apple και δύο στο Google, δηλώνοντας κατόχους 13 ετών, και κατάφερε να κατεβάσει 135 εφαρμογές με δυνατότητα να γδύνουν πρόσωπα σε φωτογραφίες ή να μεταφέρουν το πρόσωπό τους πάνω σε γυμνά σώματα, παρότι τέτοιες εφαρμογές απαγορεύονται ρητά από τους κανόνες και των δύο εταιρειών. Οι ερευνητές βρήκαν ότι πολλές από αυτές τις εφαρμογές ήταν λανθασμένα κατηγοριοποιημένες ως κατάλληλες για ανήλικους, με μία εφαρμογή αλλαγής προσώπου να διαφημίζεται με εικόνα γυναίκας σε σεξουαλική πράξη ενώ ήταν βαθμολογημένη ως κατάλληλη από 4 ετών, επιτρέποντας στους εφήβους να την κατεβάσουν ακόμη και με ενεργούς γονικούς ελέγχους. Η έρευνα ξεκίνησε μετά από περιστατικό στην Πενσυλβάνια, όπου μαθητής χρησιμοποίησε εφαρμογή επεξεργασίας εικόνας με AI για να δημιουργήσει πορνογραφικό υλικό με τη φωτογραφία συμμαθήτριάς του και πέντε ακόμη κοριτσιών, κάτι που η μητέρα της περιέγραψε ως κάτι που δεν φανταζόταν καν ότι ήταν τεχνικά εφικτό. Η Apple και η Google δηλώνουν ότι βασίζονται κυρίως στους ίδιους τους προγραμματιστές εφαρμογών για να δηλώσουν σωστά την κατηγορία ηλικίας, κάτι που οι ερευνητές δείχνουν ότι παρακάμπτεται εύκολα. Για μια επιχείρηση που αναπτύσσει ή διανέμει εφαρμογές με AI μέσω των δύο μεγάλων καταστημάτων, η υπόθεση δείχνει ότι η αυτοδήλωση κατηγορίας ηλικίας δεν αρκεί πλέον ως απόδειξη συμμόρφωσης, ιδίως όταν το προϊόν αφορά παραγωγή εικόνων.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.