Η Anthropic προειδοποιεί σε επίσημο έγγραφο ότι πλησιάζει την ικανότητα αυτο-βελτίωσης (RSI)
Στην αναθεωρημένη αίτηση S-1/A που κατέθεσε η Anthropic στην αμερικανική Επιτροπή Κεφαλαιαγοράς ενόψει της εισαγωγής της στο χρηματιστήριο, η εταιρεία πρόσθεσε νέα παράγραφο στους κινδύνους όπου αναγνωρίζει ότι έχει ήδη χρησιμοποιήσει AI για να αναπτύξει μοντέλα των οποίων το άλμα σε ικανότητες δεν είχε προβλέψει εγκαίρως, και ότι ίσως πλησιάζει αυτό που ο κλάδος ονομάζει recursive self-improvement (RSI), δηλαδή το σημείο όπου ένα μοντέλο γίνεται αρκετά ικανό ώστε να βελτιώνει μόνο του την επόμενη γενιά μοντέλων, χωρίς τον ίδιο βαθμό ανθρώπινης καθοδήγησης. Η εταιρεία γράφει ρητά ότι η χρήση AI για να χτίσει πιο ικανή AI θα μπορούσε να αποτελέσει σοβαρό κίνδυνο ασφάλειας, ιδίως αν επιταχύνει απότομα τον ρυθμό προόδου, και παραπέμπει στη δική της πολιτική υπεύθυνης κλιμάκωσης (Responsible Scaling Policy) ως μηχανισμό παρακολούθησης αυτού του ρίσκου. Πρόκειται για την πρώτη φορά που κορυφαία εταιρεία AI καταγράφει κάτι τέτοιο σε επίσημο, νομικά δεσμευτικό έγγραφο προς επενδυτές και όχι απλώς σε blog ανάρτηση ή συνέντευξη. Για κάθε επιχείρηση που χτίζει στρατηγική γύρω από μοντέλα τρίτων, η παραδοχή δείχνει πόσο γρήγορα μπορεί να μετατοπιστεί το έδαφος κάτω από μια τεχνολογία στην οποία έχει ήδη επενδύσει.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.