ENTRETIEN AVEC ÉMILE TORRES
Dire que les géants de la technologie sont indifférents à l’humanité n’est pas seulement une figure de style. De Peter Thiel à Elon Musk, nombreux sont ceux qui adhèrent à une vision du monde selon laquelle les êtres humains seront remplacés par des post-humains numériques, ce qu’ils considèrent comme un progrès.
NTERVIEW PAR
En voyant les magnats de la technologie jeter toute prudence dans la course à l’armement de l’IA ou se dérober sur la question de savoir si l’humanité doit continuer d’exister, il est naturel de se demander s’ils se soucient des vies humaines.
La réponse sincère et approfondie à cette question est tout aussi sombre que la réponse simpliste. Comme l’affirme le philosophe moral Émile Torres, de nombreux dirigeants de la Silicon Valley adhèrent à une vision d’un avenir transhumaniste dans lequel les êtres humains biologiques seront remplacés par des êtres numériques dotés d’une superintelligence. Cette vision explique leur obsession pour l’intelligence artificielle complète (AGI) et elle est au cœur de ce que Torres décrit comme les préférences extinctionnistes humaines.
En 2023, Torres et son collègue Timnit Gebru ont inventé l’acronyme TESCREAL pour décrire une constellation d’idéologies — transhumanisme, extropianisme, singularitarisme, cosmisme, rationalisme, altruisme efficace, longtermisme — qui sont devenues très influentes dans la Silicon Valley. Torres est un philosophe, historien et journaliste dont les travaux portent sur l’éthique des technologies émergentes, en particulier l’IA et l’extinction humaine.
Dans cette conversation avec le journaliste Doug Henwood enregistrée pour le podcast Behind the News de Jacobin, Torres explique la vision du monde TESCREAL, ses liens avec l’eugénisme et le réalisme du QI, et pourquoi des personnalités telles qu’Elon Musk, Peter Thiel et Sam Altman adhèrent à la vision d’un avenir post-humain.
DOUG HENWOOD. TESCREAL est un mot compliqué. Que signifie-t-il ?
ÉMILE TORRES Je n’ai jamais prétendu que c’était un joli mot. Ce n’est pas le cas. Mais il est utile.
L’idée centrale de la vision du monde TESCREAL est cette vision techno-utopique de l’avenir dans laquelle nous développons des technologies avancées qui nous permettent de repenser radicalement l’organisme humain afin de créer une nouvelle espèce post-humaine, ce qu’on appelle le transhumanisme. Nous nous étendrons au-delà de la Terre, coloniserons Mars puis le reste de la galaxie, et finirons par créer de vastes simulations informatiques remplies de trillions et de trillions de personnes numériques.
Et la raison pour laquelle nous faisons cela est que la vision du monde TESCREAL nous enseigne à maximiser la valeur totale de l’univers. Les êtres humains sont les conteneurs ou les substrats de la valeur. Ainsi, plus il y a d’êtres humains, plus la valeur totale que vous pouvez potentiellement créer est grande.
DOUG HENWOOD Cette valeur, qu’est-ce que c’est exactement ? Et qui en profite ?
ÉMILE TORRES C’est une excellente question. Le TESCREALisme a été fortement influencé par une théorie éthique appelée « utilitarisme totaliste ». L’utilitarisme totaliste considère la valeur comme une chose impersonnelle. La valeur n’a pas d’importance parce qu’elle profite à une personne en particulier. L’idée est que l’univers lui-même est simplement meilleur s’il contient plus de valeur.
Si l’on pense en termes d’argent ou de richesse, c’est comme dire que plus il y a d’argent ou de richesse, mieux c’est. Il ne s’agit pas nécessairement d’argent. Une autre interprétation de la valeur serait qu’il s’agit de quelque chose comme le plaisir ou le bonheur. Ainsi, plus l’univers contient de bonheur ou d’expériences agréables, mieux il devient — pas nécessairement pour quelqu’un en particulier, mais simplement du point de vue de ce que les utilitaristes totalistes appellent le cosmos. Il y a cet œil cosmique désincarné qui regarde l’univers et qui juge que plus il contient de valeur, mieux c’est, et moins il en contient, pire c’est.
DOUG HENWOOD Il y a là un aspect étrangement religieux.
ÉMILE TORRES C’est vrai. Et je dirais qu’il y a aussi une sorte d’influence capitaliste, l’idée que les êtres humains n’ont pas d’importance en soi. Dans cette vision du monde, nous avons de l’importance pour la valeur, plutôt que la valeur ait de l’importance pour nous.
DOUG HENWOOD Cela me transforme en un humaniste vraiment sentimental. J’aime à penser que je suis un peu plus discipliné que cela, mais bon sang, cela va me rendre très sentimental à propos de la valeur des êtres humains.
ÉMILE TORRES On appelle cela littéralement l’impersonnalisme, comme dans la compréhension impersonnaliste de la valeur. Encore une fois, l’idée clé est que nous ne sommes que des moyens pour atteindre une fin. La seule fin est la valeur, ce concept abstrait mais quantifiable qui doit être maximisé jusqu’aux limites physiques du cosmos. Nous n’avons d’importance qu’en tant que canaux par lesquels cette valeur peut voir le jour. Cette idée fait partie intégrante du mouvement TESCREAL.
DOUG HENWOOD Elon Musk a récemment déclaré dans un post X que les humains sont un « bootloader (chargeur d’amorçage ndt)biologique pour la superintelligence numérique ». Est-ce de cela dont vous parlez ? Les humains créeront cette intelligence fabuleuse, mais elle nous surpassera et nous laissera complètement dans la poussière.
ÉMILE TORRES Oui, exactement. Il y a plusieurs façons d’envisager cela. L’une d’elles est que la superintelligence pourrait être vraiment importante, car elle pourrait faciliter la réalisation de la vision TESCREAL de l’avenir. Les TESCREAListes ont tendance à considérer tout comme un problème d’ingénierie. Le raisonnement est donc le suivant : si nous disposons d’une superintelligence, alors nous disposons d’un super-ingénieur. Si nous disposons d’un super-ingénieur, alors nous pouvons concevoir le paradis, un terme qu’ils utilisent littéralement.
Le raisonnement est le suivant : si nous disposons d’une superintelligence, alors nous disposons d’un super-ingénieur. Si nous disposons d’un super-ingénieur, alors nous pouvons concevoir le paradis.
La superintelligence trouvera le moyen de coloniser l’espace, comme l’a déclaré Sam Altman, PDG d’OpenAI. Sans intelligence artificielle générale, ou AGI, nous ne pourrons probablement pas coloniser l’espace. La superintelligence trouvera le moyen de « guérir » le vieillissement afin que nous puissions vivre éternellement ou télécharger notre esprit dans des ordinateurs. Mais l’autre rôle clé que pourrait jouer la superintelligence est qu’elle pourrait se multiplier en une population qui remplacerait tout simplement l’humanité.
Peut-être que notre espèce n’est, en quelque sorte, pas digne de réaliser la vision à long terme du TESCREALisme. Et ce dont nous avons besoin, c’est d’une population d’êtres « plus intelligents » qui puissent réellement partir coloniser l’espace et réorganiser ou redessiner les galaxies afin d’exploiter toute l’énergie qu’elles contiennent pour maximiser leur valeur.
DOUG HENWOOD D’après mon point de vue limité à l’espace physique, il semble que ces créatures du futur seraient en quelque sorte des simulations ?
ÉMILE TORRES C’est une possibilité. Une fois que vous disposez d’intelligences numériques, deux options s’offrent à vous. La première est qu’elles puissent vivre dans des mondes de réalité virtuelle. C’est ce que je suggérais tout à l’heure lorsque je parlais de construire ces vastes simulations informatiques remplies de trillions et de trillions de personnes numériques. Il s’agirait d’entités numériques, d’AGI ou de superintelligences, qui vivraient simplement dans un monde de réalité virtuelle, un univers simulé.
Une autre possibilité serait que ces systèmes d’IA occupent des corps androïdes ou mécaniques qui leur permettraient de naviguer dans notre univers physique. Ils resteraient donc numériques, mais au lieu d’exister dans des mondes simulés, ils pourraient exister dans notre monde réel.
La véritable vision est que nous ayons les deux. Nous aurions donc des superintelligences qui partiraient coloniser l’espace, et elles construiraient également — je cite ici certaines figures de proue du mouvement TESCREAL — des « ordinateurs de la taille d’une planète » sur lesquels fonctionneraient ces mondes de réalité virtuelle où d’autres IA ne seraient que des êtres simulés dans un univers simulé.
L’impératif transhumaniste de repenser radicalement l’humanité est vraiment au cœur de toutes les autres revendications des TESCREAListes. Nous ne serons probablement pas en mesure de coloniser l’espace si nous ne nous repensons pas radicalement, si nous ne téléchargeons pas notre esprit dans des ordinateurs ou si nous ne créons pas simplement une nouvelle espèce d’AGI pour remplacer complètement l’humanité. Est-ce que cela a du sens ?
DOUG HENWOOD : Je vais peut-être devoir prendre encore quelques médicaments avant de pouvoir comprendre tout ça. Bon, nous avons un peu parlé des lettres T, E, S et C de l’acronyme. Passons maintenant à la lettre R, qui signifie rationalisme. Qu’est-ce que cela signifie dans ce contexte ?
ÉMILE TORRES Le rationalisme a été fondé par une figure très connue du mouvement transhumaniste moderne, Eliezer Yudkowsky. L’idée est que nous devons prendre du recul et réfléchir aux meilleurs moyens d’optimiser notre rationalité. Plus nous sommes rationnels, mieux nous sommes placés pour créer ces successeurs post-humains qui partiront coloniser l’espace. Le rationalisme consiste à identifier les biais cognitifs afin de les neutraliser. Il s’agit de développer de nouvelles théories dans un domaine appelé théorie de la décision, qui est censé nous permettre de prendre des décisions de la manière la plus rationnelle possible.
La plupart d’entre nous voulons être plus rationnels et ne voulons pas succomber aux effets déformants des biais cognitifs. Mais lorsque l’on commence à examiner en détail ce qu’est le rationalisme, cela devient vraiment problématique. Je vais vous donner un bref exemple.
Le fondateur, Yudkowsky, a publié un article sur son site web communautaire, Less Wrong, qui est le centre névralgique en ligne de toute la communauté rationaliste, dans lequel il demandait aux lecteurs d’imaginer une situation dans laquelle ils étaient contraints de choisir entre deux options. La première est qu’un seul individu soit torturé sans pitié pendant cinquante ans. L’autre est qu’un nombre incalculable de personnes souffrent d’un inconfort presque imperceptible causé par un grain de poussière qui se trouve brièvement dans leur œil. Laquelle de ces deux options est la pire ? Son argument était que la deuxième, le scénario du grain de poussière, est bien pire si l’on fait le calcul…
DOUG HENWOOD C’est complètement fou.
ÉMILE TORRES Oui, un éclat de rire est la réponse appropriée dans ce cas. Son slogan est « Tais-toi et multiplie-toi », ce qui signifie « oublie tes émotions, tes sentiments moraux. Utilise ta tête, fais le calcul, et tu verras que le deuxième scénario est bien pire que quelqu’un qui est torturé pendant cinquante ans. Tu devrais donc choisir l’option de la torture.
DOUG HENWOOD Un autre aspect de cette vision du monde est le culte du QI élevé, qui nous amène sur le terrain de l’eugénisme. Pouvez-vous nous parler du QI et de l’eugénisme ?
ÉMILE TORRES Le QI est très important pour beaucoup de personnes au sein du mouvement TESCREAL. Beaucoup d’entre elles sont, comme elles le disent elles-mêmes, des « réalistes du QI ». Elles pensent que le QI mesure quelque chose de réel dans l’esprit humain, et que cette chose est très importante.
Beaucoup de psychologues, de philosophes, etc. pensent que le QI est une absurdité totale. Il y a eu une très bonne critique de l’idée du QI par un statisticien nommé Nassim Taleb. Il souligne que les tests de QI peuvent être utiles pour identifier les personnes qui obtiennent des scores très bas, mais qu’ils sont pratiquement inutiles pour les personnes qui se situent au-dessus de la moyenne, car il existe un million de façons différentes d’être « intelligent ». Certaines personnes sont douées en mathématiques, d’autres ont un sens commun et une sagesse extraordinaires, et d’autres encore sont des scientifiques brillants, mais n’ont ni sens commun ni sagesse à partager.
Je comparerais l’idée d’intelligence à celle de compétence. Si quelqu’un me dit : « Tu devrais rencontrer mon ami Joe, il est vraiment doué », je me demande : « Dans quel sens ? De quelle manière ? » J’ai besoin de plus d’informations. Peut-il composer un quatuor à cordes ? Sait-il cuisiner un bon dîner ? Sait-il fabriquer un beau meuble ?
Historiquement, le QI était étroitement lié à l’eugénisme. Les tests ont été développés par d’éminents eugénistes, dont beaucoup avaient des opinions profondément racistes et sexistes. Ils croyaient que la « race blanche » avait une intelligence supérieure à celle des autres catégories raciales, et ils ont développé le test pour confirmer exactement ce qu’ils voulaient démontrer.
Il existe une continuité très claire entre le mouvement eugéniste du XXe siècle et l’émergence du mouvement TESCREAL. Les figures de proue du mouvement TESCREAL ont tiré la sonnette d’alarme sur la possibilité de pressions dysgéniques, « dysgénique » signifiant le contraire d’eugénique, où eugénique signifie littéralement « bonne naissance ». L’idée est que l’intelligence est héréditaire, ce qui est très discutable d’un point de vue scientifique. La dysgénie se produirait si, par exemple, les individus « moins intelligents » se reproduisaient davantage que leurs pairs « plus intelligents », ce qui aurait pour conséquence d’augmenter la prévalence des personnes ayant un faible QI au sein de la population au fil des générations.
Les membres du mouvement TESCREAL s’en sont explicitement inquiétés. C’est une idée qui a également terrifié les eugénistes du XXe siècle. Que se passerait-il si la population non blanche des États-Unis augmentait et se reproduisait plus que la population blanche ? Eh bien, cela pourrait être vraiment grave selon ce point de vue. Cela pourrait entraîner des pressions dysgéniques, car selon ces réalistes racistes du QI, les populations non blanches ont un QI inférieur. Cela a conduit à un programme eugénique à l’ancienne qui consistait à interdire les mariages interraciaux ou à empêcher l’immigration.
Les eugénistes à l’ancienne voulaient simplement améliorer l’espèce humaine. Le transhumanisme dit : pourquoi s’arrêter à l’amélioration de l’humanité ? Pourquoi ne pas créer une espèce post-humaine entièrement nouvelle et « supérieure » ?
Le transhumanisme est incontestablement une forme d’eugénisme. En fait, le transhumanisme a été initialement introduit par certains eugénistes de premier plan du XXe siècle, tels que Julian Huxley, un biologiste qui a publié plusieurs ouvrages sur ce sujet. Le transhumanisme est une forme d’eugénisme dopée aux stéroïdes. Les eugénistes de la vieille école voulaient simplement améliorer l’espèce humaine. Le transhumanisme dit : pourquoi s’arrêter à l’amélioration de l’humanité ? Pourquoi ne pas créer une espèce post-humaine entièrement nouvelle et « supérieure » ?
DOUG HENWOOD Tout cela serait une façon de penser excentrique, si ce n’était que des personnes comme Elon Musk, Peter Thiel, Sam Altman et Marc Andreessen font partie de ce club à des degrés divers. Quel est donc le rapport entre cette façon de penser et ces décideurs de la Silicon Valley ?
ÉMILE TORRES Marc Andreessen avait en fait ajouté le descriptif « TESCREALIST » à sa biographie Twitter fin 2022 ou 2023. Et Elon Musk a déclaré que le longtermisme « correspondait étroitement à sa philosophie ».
DOUG HENWOOD Et son projet de « colonisation de Mars » s’inscrit tout à fait dans cette logique.
ÉMILE TORRES Absolument. Oui. Musk se considère comme une figure messianique qui va jouer un rôle central non seulement dans l’histoire de l’humanité, mais aussi dans l’histoire cosmique. Car s’il est celui qui inaugure l’ère de l’AGI avec son entreprise xAI, cela constituera un changement monumental. Selon lui, cela nous donnerait une capacité entièrement nouvelle pour réaliser la vision techno-utopique de la conception du monde TESCREAL.
SpaceX joue également un rôle dans cette histoire. Pour Musk, Mars est le tremplin vers le reste de la galaxie, qui est lui-même le tremplin vers le reste de l’univers. S’il est celui qui nous emmène sur Mars et qui nous permet d’y établir des colonies indépendantes de la Terre, alors il nous aura mis sur la voie de la réalisation de ce monde utopique, peut-être plus que quiconque sur Terre à l’heure actuelle.
Musk se considère comme une figure messianique qui va jouer un rôle central non seulement dans l’histoire de l’humanité, mais aussi dans l’histoire cosmique.
Toutes ces personnes incarnent également le même type d’attitudes discriminatoires qui ont animé le mouvement eugéniste du XXe siècle. Elon Musk a mis en garde contre le déclin de la population mondiale, mais si l’on examine de près certains de ses tweets, il semble qu’il s’inquiète plus explicitement du déclin de la population blanche. Il y a plusieurs mois, quelqu’un a tweeté que la population blanche représentait environ 8 % de la population mondiale, et Musk a répondu en substance qu’ « elle diminuait rapidement ». Son inquiétude concernant non seulement l’immigration, mais aussi le déclin démographique, comporte une forte composante raciale. Musk pense fondamentalement que les Blancs sont supérieurs et que le déclin de la population blanche serait donc très néfaste pour l’avenir de l’humanité et de la post-humanité.
DOUG HENWOOD Dans sa longue interview avec Ross Douthat du New York Times en juin, Peter Thiel a été interrogé par Douthat sur sa volonté de voir l’espèce humaine perdurer. Thiel a hésité avant de répondre oui à contrecœur, mais il ne semblait pas vraiment y croire. Puis il a évoqué le transhumanisme dans les phrases suivantes.
Que veulent ces gens ? Sont-ils indifférents, voire favorables à l’extinction de l’humanité ?
ÉMILE TORRES Il y a deux choses essentielles à comprendre au sujet de ce qui se passe dans la Silicon Valley. La première est que la vision du monde TESCREAL est omniprésente. C’est l’eau dans laquelle ces gens nagent et l’air qu’ils respirent. Il est donc impossible de comprendre ce qui se passe dans la Silicon Valley, en particulier en ce qui concerne la course à la construction de l’AGI, sans avoir une certaine compréhension du transhumanisme, du longtermisme et de toutes ces idéologies TESCREAL.
La deuxième chose vraiment importante à comprendre est qu’un élément clé de la vision utopique au cœur du TESCREALisme est une position pro-extinctionniste. L’utopie ressemble à un monde dans lequel ce sont les post-humains, et non les humains, qui dirigent le monde. Lorsque Peter Thiel a hésité, il ne faisait que canaliser cette composante pro-extinctionniste de la vision du monde TESCREAL. Ce n’est pas l’humanité, mais la post-humanité qui finira par partir coloniser l’espace et diriger le spectacle.
Peter Thiel a une vision quelque peu unique, minoritaire dans la Silicon Valley, selon laquelle les post-humains qui devraient finalement nous remplacer devraient être des extensions de nos corps biologiques. Il a donc explicitement déclaré qu’il voulait vivre éternellement, mais qu’il voulait aussi conserver son corps. Il ne veut pas télécharger son esprit dans un ordinateur pour devenir un être numérique.
Cela contraste avec une version légèrement différente du pro-extinctionnisme, défendue par un plus grand nombre de personnes dans la Silicon Valley, selon laquelle l’avenir est numérique. On peut faire la distinction entre le transhumanisme biologique de Peter Thiel et ce qu’on pourrait appeler l’eugénisme numérique. L’eugénisme numérique est une version du pro-extinctionnisme qui affirme que les futurs post-humains qui nous remplaceront devraient tous être de nature numérique.
Leur vision de l’avenir n’est pas inclusive. Si c’était un avenir inclusif, il inclurait également les humains. Ce n’est pas le cas.
Ils pourraient soit être téléchargés dans l’esprit humain, soit être des entités entièrement séparées, autonomes et distinctes, comme ChatGPT. On pourrait donc imaginer ChatGPT 10, ou autre, atteindre le niveau de l’AGI et prendre le pouvoir. En ce sens, l’AGI n’est pas une extension de nous-mêmes, c’est quelque chose de complètement séparé. Nous ne sommes pas devenus cela, nous l’avons simplement créé. Peter Thiel, quant à lui, a cette vision de la post-humanité comme quelque chose que nous devenons plutôt que quelque chose que nous créons. Le point essentiel, cependant, est qu’ils sont tous partisans de l’extinction.
DOUG HENWOOD : D’après votre description, cela ne semble pas être un programme très populaire. Y a-t-il donc place pour la coercition dans leur vision du monde ?
ÉMILE TORRES Y a-t-il place pour la coercition ? Oui, je pense.
DOUG HENWOOD C’est une question délibérément naïve.
ÉMILE TORRES Leur vision de l’avenir n’est pas inclusive. Si c’était un avenir inclusif, il inclurait également les humains. Ce n’est pas le cas. C’est un avenir pour les post-humains.
C’est également profondément élitiste et extrêmement antidémocratique. À l’heure actuelle, avec leurs milliards et leurs billions de dollars, ils essaient de créer un nouveau monde dirigé par des post-humains sans jamais avoir demandé l’avis et les préférences du reste de l’humanité. Ils le font sans notre consentement et se moquent complètement de ce que nous avons à dire.
Ils croient en leur vision et ils vont essayer de la concrétiser quoi qu’il arrive. Ils sont sincèrement convaincus que c’est la bonne chose à faire. Le reste de l’humanité n’a absolument rien à dire sur ce à quoi devrait ressembler notre avenir collectif. On pourrait qualifier cela de profondément coercitif.
DOUG HENWOOD Les gars de la Silicon Valley sont les super-intelligents du moment, alors qui a besoin de l’avis des autres ?
ÉMILE TORRES Exactement. Je pense que c’est ce qu’ils croient. La communauté rationaliste est très influente dans la Silicon Valley, et ce qu’elle dit essentiellement à ses membres, c’est qu’une fois que vous maîtrisez telle ou telle théorie dans le domaine de la théorie de la décision, une fois que vous maîtrisez les schémas de pensée qui sont rationnels de manière optimale, vous avez alors un accès direct aux vérités fondamentales sur ce à quoi devrait ressembler l’avenir. Et comme la rationalité offre une perspective universelle et objective sur le monde, vous n’avez pas besoin du point de vue de quelqu’un d’autre. C’est exactement ainsi que ces milliardaires de la Silicon Valley envisagent notre avenir collectif.
CONTRIBUTEURS
Émile Torres est philosophe, historien et journaliste. Ses travaux portent sur l’éthique des technologies émergentes, en particulier l’IA et l’extinction humaine.
Doug Henwood est rédacteur en chef de Left Business Observer et animateur de Behind the News. Son dernier ouvrage s’intitule My Turn.
Traduction deep revue ML
https://jacobin.com/2025/11/musk-thiel-altman-ai-tescrealism
