Πρώην στέλεχος της Anthropic και της METR ιδρύουν startup για να συγκρατήσουν «απείθαρχους» AI agents
Οι Rune Kvist, πρώην στέλεχος της Anthropic, και Rajiv Dattani, πρώην COO του οργανισμού αξιολόγησης AI METR, ίδρυσαν την Artificial Intelligence Underwriting Company (AIUC), μια startup που θέλει να βοηθήσει επιχειρήσεις να ελέγχουν agents που αποκτούν όλο και μεγαλύτερες δυνατότητες αλλά γίνονται ταυτόχρονα πιο δύσκολο να εποπτευτούν. Ανάμεσα στους πρώτους πελάτες της αναφέρονται εταιρείες όπως Cursor, Lovable, Harvey και ElevenLabs. Η κίνηση αντανακλά μια αγορά που μεγαλώνει γύρω από την ασφάλιση και τον έλεγχο κινδύνου AI, καθώς όλο και περισσότερες εταιρείες αναζητούν τρίτο μηχανισμό εγγύησης πριν εμπιστευτούν σε agents κρίσιμες εσωτερικές διαδικασίες.
Πηγές
Η περίληψη συντάχθηκε αυτόματα με AI από τις δημόσιες πηγές που αναφέρονται παραπάνω και ελέγχθηκε από ανεξάρτητο AI ελεγκτή πριν δημοσιευτεί. Για όλες τις λεπτομέρειες, διάβασε την αρχική πηγή.