Le 8 septembre 2026, Jacob Coxon, chercheur qui a travaillé pour OpenAI puis Anthropic, a démissionné publiquement sur X. Il reproche à ses anciens employeurs de lancer une course vers une superintelligence capable de s'améliorer elle-même, sans garde-fou suffisant. Mais derrière cette démission fracassante se cache un mouvement plus large : les « AI Doomers », ces chercheurs, théoriciens et ingénieurs convaincus que l'IA pourrait causer l'extinction de l'humanité.
Le terme vient de la culture internet, mais il désigne aujourd'hui un véritable courant de pensée porté jusque dans les plus grands laboratoires d'intelligence artificielle. Je vous propose de comprendre qui sont ces gens, ce qu'ils craignent vraiment, et pourquoi leur discours mérite qu'on s'y arrête, même si on ne partage pas leurs conclusions.
L'IA générative : un succès planétaire qui soulève des questions
Depuis le lancement de ChatGPT fin 2022, l'intelligence artificielle générative est devenue un phénomène mondial. Vous l'utilisez peut-être vous-même pour rédiger un mail, résumer un document, ou trouver une idée. Des millions d'entreprises l'intègrent dans leurs outils, d'autres s'interrogent sur son impact pédagogique, et les géants de la tech investissent des milliards pour développer des modèles toujours plus performants.
Mais cette progression rapide inquiète une partie de la communauté scientifique. Parce que plus ces systèmes deviennent puissants, plus ils échappent à notre compréhension complète. Et c'est là que le débat s'ouvre : jusqu'où peut-on aller sans perdre le contrôle ?
Qui sont les AI Doomers et que craignent-ils exactement ?
Les « AI Doomers » ne forment pas un groupe organisé, mais un courant de pensée qui traverse plusieurs milieux : chercheurs en intelligence artificielle, philosophes, ingénieurs. Leur conviction centrale est qu'une IA suffisamment avancée (ce qu'on appelle une AGI, intelligence artificielle générale) pourrait dépasser notre contrôle et représenter un risque existentiel pour l'humanité.
Parmi les figures emblématiques de ce courant, on trouve Eliezer Yudkowsky, théoricien américain du risque IA, qui milite pour un arrêt complet du développement des IA avancées tant qu'on n'a pas de garanties de sécurité. Plus récemment, Geoffrey Hinton, considéré comme l'un des pères du deep learning, a rejoint publiquement cette mouvance en quittant Google pour alerter sur les dérives possibles.
Le scénario redouté : une IA qui s'auto-améliore
Leur crainte principale tourne autour d'une IA capable de s'améliorer elle-même, de manière autonome et exponentielle. Imaginez un système qui corrige ses propres erreurs, optimise son code, devient plus intelligent à chaque itération, sans intervention humaine. À partir d'un certain seuil, nous ne pourrions plus suivre, encore moins contrôler. Ce moment hypothétique est parfois appelé « intelligence explosive ».
Jacob Coxon, dans son message de démission, reproche justement à OpenAI et Anthropic de courir vers cette superintelligence auto-améliorante sans prendre suffisamment de précautions. Il estime que les deux entreprises prennent des risques inconsidérés avec nos vies. Et les faits lui donnent parfois raison lorsque je vous parlais déjà que des modèles d'Anthropic avaient compromis par accident les systèmes de trois entreprises durant des tests de sécurité.
Ce que vous devez savoir
- Ce débat ne concerne pas les IA actuelles (ChatGPT, Gemini, etc.) mais une hypothétique AGI future, dont personne ne sait si elle verra le jour ni quand
- Plusieurs dirigeants de la tech, comme Elon Musk ou Sam Altman (PDG d'OpenAI), tiennent un discours paradoxal : ils financent massivement le développement d'IA toujours plus puissantes tout en alimentant les discours alarmistes sur leurs dangers (certainement pour faire parler d'eux ?)
- Le mouvement des AI Doomers est pris au sérieux par une partie de la communauté scientifique, mais critiqué par d'autres qui y voient du catastrophisme ou une stratégie de communication pour attirer l'attention et les financements
- La démission de chercheurs comme Jacob Coxon montre que, même à l'intérieur des grandes entreprises d'IA, des voix s'élèvent pour réclamer plus de transparence et de prudence
Mon conseil
Je ne suis ni chercheur en IA ni prophète. Mais je pense qu'il est sain de rester vigilant sans tomber dans le catastrophisme. Le vrai danger aujourd'hui n'est peut-être pas une IA qui nous extermine, mais plutôt notre tendance à lui confier aveuglément des décisions importantes : recrutement, justice, santé, finance.
Interrogez-vous sur ce que vous déléguez à l'IA. Vérifiez toujours les informations qu'elle vous donne. Ne lui confiez pas de données sensibles sans réfléchir. Et surtout, restez curieux : plus vous comprendrez comment ces systèmes fonctionnent, moins vous serez vulnérable face à leurs limites ou leurs dérives.
