Τα AI chatbots «απέτυχαν» σε ανθρώπους σε κρίση· η OpenAI συνεργάζεται με την Αμερικανική Ψυχολογική Εταιρεία
Νέες αγωγές κατά της OpenAI, μεταξύ αυτών από οικογένειες θυμάτων αυτοκτονίας, αναζωπυρώνουν τη συζήτηση για την ευθύνη των εταιρειών AI όταν χρήστες σε ψυχική κρίση απευθύνονται σε chatbots. Ειδικοί λένε στο Ars Technica ότι, ενώ τα μεγάλα γλωσσικά μοντέλα (LLM) έχουν βελτιωθεί στην αναγνώριση σημείων κινδύνου, συνεχίζουν να δυσκολεύονται να καθοδηγήσουν αποτελεσματικά τον χρήστη σε ανθρώπινη βοήθεια και να θέτουν σαφή όρια. Η OpenAI ανακοίνωσε συνεργασία με την American Psychological Association για να ενσωματώσει ψυχολογική επιστήμη στον σχεδιασμό υπεύθυνου AI για νέους, μετά από προηγούμενα μέτρα όπως «trusted contacts» και ειδική ομάδα ψυχικής υγείας. Για επιχειρήσεις που αναπτύσσουν ή χρησιμοποιούν AI chatbots σε επαφή με το κοινό, το ζήτημα δείχνει αυξανόμενο νομικό και ρυθμιστικό ρίσκο γύρω από την ψυχική υγεία των χρηστών.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.