Την παραίτησή του από την εταιρεία Tεχνητής Nοημοσύνης Anthropic υπέβαλε ο ερευνητής Τζέικομπ Κόξον, εξηγώντας τους φόβους του ότι μαζί με τους ανταγωνιστές της συμμετέχει σε μια κούρσα ανάπτυξης συστημάτων που τελικά δεν θα μπορούν να ελέγξουν.
Ο Κόξον, ο οποίος είχε ειδικευτεί στην εκπαίδευση νέων μοντέλων Τεχνητής Νοημοσύνης μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, ανακοίνωσε την απόφασή του με μια σειρά αναρτήσεων στο Χ εξηγώντας ότι αποχωρεί από την Anthropic, επειδή δεν θέλει να συμμετέχει στη γενικευμένη προσπάθεια του κλάδου για τη δημιουργία συστημάτων AI που θα μπορούν να βελτιώνουν μόνα τους τον εαυτό τους. Όπως γράφει, φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από κάθε έλεγχο και να απειλήσουν την ανθρωπότητα.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο 27χρονος Βρετανός, ο οποίος έχει σπουδάσει μαθηματικά, ανέφερε ότι πολλοί συνάδελφοί του χρησιμοποιούν πλέον όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων.
Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.
— Jacob Coxon (@hilbertspaess) September 9, 2026
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο» εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, «οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι».
A common response is “if they truly believe this, why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first – they believe no one else…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο Κόξον ανέφερε ότι νωρίτερα φέτος άφησε την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της εταιρείας είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα Τεχνητή Νοημοσύνη που να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών – αυτό που συχνά αποκαλείται Τεχνητή Γενική Νοημοσύνη (AGI) – χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση του κλάδου.
Ο 27χρονος Βρετανός επικαλείται στο σκεπτικό του πρόσφατες περιπτώσεις κατά τις οποίες μοντέλα από την OpenAI και την Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων AI για να τονίσει ότι τα συστήματα μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους.
Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο φόβος του Κόξον είναι πως όταν αυτά τα συστήματα αρχίσουν να βελτιώνονται μόνα τους, ενδέχεται να εξελιχθούν σε σημείο που να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρηση του Κόξον, όπως σημειώνει η «Wall Street Journal», έρχεται μετά την παραίτηση νωρίτερα φέτος ακόμη ενός ερευνητή που εργαζόταν σε θέματα ασφάλειας, ο οποίος έφυγε για να ασχοληθεί με την ποίηση προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Σημειώνεται ότι ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές Τεχνητής Νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης AI αν καταστεί αναγκαίο να ενεργοποιηθεί ένα «φρένο» για συστήματα που θα μπορούν να βελτιώνονται μόνα τους.
If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” – or take this moment…
— Jacob Coxon (@hilbertspaess) September 9, 2026
Αξίζει να σημειωθεί ότι η κίνηση του Κόξον έρχεται την ώρα που η Anthropic προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων και έχει δώσει ιδιαίτερη έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας για να προσελκύσει επενδυτές.
Σύμφωνα με τον Κόξον, στην Anthropic υπάρχει ειδικό κανάλι στο Slack όπου οι εργαζόμενοι συζητούν για τις ολοένα και πιο ισχυρές δυνατότητες των μοντέλων της εταιρείας, κάτι που αντανακλά το πόση επιρροή έχουν πλέον οι εταιρείες AI στην κατεύθυνση που παίρνει ολόκληρος ο κλάδος.
«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν» δήλωσε χαρακτηριστικά ο Κόξον.
Υπενθυμίζεται, τέλος, ότι ο διευθύνων σύμβουλος της εταιρείας Ντάριο Αμοντέι και άλλα στελέχη έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενέχουν τα ανεξέλεγκτα μοντέλα Τεχνητής Νοημοσύνης και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξή τους.
