Jacob Coxon chercheur britannique chez Anthropic passé chez OpenAi accuse les deux industriels du secteur de « jouer avec la vie » des gens dans une course effrénée.
Il n’est pas le premier à alerter ou s’alarmer, mais il fait sans doute partie des plus bruyants. Le chercheur Jacob Coxon, 27 ans seulement, a claqué la porte d’Anthropic ce mercredi 9 septembre 2026 avec un message particulièrement alarmant. La missive postée sur X circule à grand bruit dans les médias en raison, en autre, de sa prophétie funeste. En substance, le Britannique qui a rejoint Anthropic après avoir quitté OpenAi, accuse les deux laboratoires américains de « dépasser les limites » dans leur course au développement d’IA capables de s’améliorer toutes seules. « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit.
Jacob Coxon argue notamment qu’il ne faut pas sous-estimer les capacités potentielles des systèmes d’IA avancés, susceptible de devenir « surhumain » et capable de « pirater n’importe quoi ». Et le chercheur d’assurer qu’il n’est pas seul puisque selon lui « les gens qui participent à développer des IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de cette décennie. Ceci n’est pas une opération marketing ».
Des employés d’Anthropic sortent du bois pour… lui donner raison
Dans la foulée de ce message, un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison. « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains », a-t-il écrit, estimant à titre personnel ce risque à « plus de 10 % » dans la décennie. Il a ajouté qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant des capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels. Sollicitées par l’AFP, ni OpenAI ni Anthropic n’avaient réagi dans l’immédiatement.
Toujours sur X, un autre salarié d’Anthropic, Samuel Marks, a fait écho à la déclaration de Jacob Coxon. S’expriment à titre personnel, précise-t-il, il donne raison à la mise en garde de son désormais ex-collègue. « Pourquoi les développeurs d’IA continuent-ils malgré le risque ? En raison d’un mélange d’incitations commerciales et de la conviction qu’ils sont en compétition avec d’autres développeurs d’IA moins responsables qui abuseraient de la technologie ou la développeraient de manière moins sûre », défend-il en assurant que pour sa part, il travaille justement dans le domaine de la sécurité par espoir que son travail permette d’éviter ce funeste résultat.
Bientôt le moment de bascule ?
Les champions de l’IA disent voir approcher le stade de « l’auto-amélioration récursive », au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain. Selon Jacob Coxon ses collègues emploient les termes « crunchtime » (moment décisif) et « endgame » (fin de partie) pour décrire cette trajectoire.
Il juge sincères les efforts d’Anthropic, qui prépare par ailleurs une entrée massive en bourse, mais estime qu’aucune entreprise ne peut développer de manière responsable une IA surpassant les humains sans l’intervention des Etats ou un ralentissement coordonné. « Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d’autre n’agira de façon responsable, donc qu’ils doivent le faire eux-mêmes, malgré le risque », a-t-il écrit.
Source : Le Nouvel Obs
