Ο Paul Christiano, γνωστός για τις προειδοποιήσεις του για την AI, μπαίνει στο διοικητικό συμβούλιο της OpenAI
Ο Paul Christiano, ερευνητής γνωστός για τη δουλειά του πάνω στο alignment (το πόσο πιστά ακολουθεί ένα μοντέλο AI τις ανθρώπινες προθέσεις), εντάσσεται στο διοικητικό συμβούλιο του OpenAI Foundation και θα συμμετάσχει στην Επιτροπή Ασφάλειας που έχει τον τελικό λόγο για την κυκλοφορία νέων μοντέλων. Σε δημόσια ανάρτησή του έγραψε ότι πιστεύει πως υπάρχει ουσιαστικός κίνδυνος η ραγδαία πρόοδος στις ικανότητες της AI να οδηγήσει σε καταστροφική και μη αναστρέψιμη απώλεια ελέγχου, και ότι ούτε η OpenAI ούτε ο κλάδος βρίσκονται σε πορεία να τον περιορίσουν επαρκώς. Η είσοδός του έρχεται μία μέρα μετά τη δημόσια παραίτηση ερευνητή της Anthropic με παρόμοιο μήνυμα.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.