IA : les philosophes, nouvelles stars de la Silicon Valley ?

La philosophie a de longue date la fâcheuse réputation d’être pédante et absconse. Au cours d’un de leurs plus grands débats du XX^ᵉ siècle, les philosophes ont consacré une énergie considérable à parlementer du sens du mot “le”. Paul Graham, légendaire investisseur dans les nouvelles technologies, a fait des études de philo, ce qui lui paraissait “quelque chose de tout sauf pragmatique”, a-t-il écrit par la suite. Et de préciser : “Un peu comme lacérer ses vêtements, ou se transpercer le lobe d’oreille avec une épingle à nourrice.” Paul Graham a pourtant déchanté au fil du temps : “J’ai continué de prendre des cours de philo, et ils étaient systématiquement ennuyeux.” De sorte qu’il a fini par étudier l’intelligence artificielle.

Tout comme l’investisseur, la philosophie en tant que discipline se tourne ces temps-ci vers l’IA. Dans les grandes entreprises de la tech, un contingent grandissant de docteurs en philosophie grassement rémunérés oriente l’avenir de cette technologie. Parallèlement, des universités recrutent à grands frais des philosophes qui étudient l’IA. En 2013, 1 % des emplois sur PhilJobs, principale plateforme d’emplois dans cette discipline, étaient liés à cette technologie. En 2025, ce taux a atteint 16 %.

À certains égards, ce sont des philosophes qui nous ont mis dans ce pétrin qu’est l’IA. Depuis des siècles, ils méditent sur la création d’esprits artificiels. Et l’essai publié par le philosophe suédois Nick Bostrom, Superintelligence [Dunod, 2017, trad. Françoise Parot], a sensibilisé aux dangers potentiels d’IA toutes-puissantes. Le travail de Nick Bostrom a influencé les axes de recherche de tous les principaux laboratoires. Sam Altman [PDG d’OpenAI] a déclaré que ce livre était ce qu’il avait lu “de mieux” sur les risques de l’IA.

Vers des IA plus éthiques ?

Il n’empêche que les deux disciplines n’ont jamais été aussi étroitement liées qu’elles le sont aujourd’hui. L’explosion de l’IA a fait que la Silicon Valley s’est tournée vers des philosophes pour aider le secteur à construire des machines qui sont plus vertueuses, du moins en théorie. Les entreprises d’IA doivent faire toutes sortes d’arbitrages difficiles sur les modes d’interaction de leurs robots avec des humains – des décisions que les philosophes, spécialistes de ces dilemmes, peuvent éclairer mieux que quiconque.

À l’automne 2025, lors d’un entretien avec [le présentateur] Tucker Carlson, Sam Altman a déclaré qu’OpenAI consultait “des centaines de philosophes de la morale” et de spécialistes de l’éthique appliquée à la tech pour concevoir les règles qui gouvernent le comportement de ChatGPT. (Un porte-parole d’OpenAI n’a pas su en dire plus sur la nature de ce conseil.)

Parmi les géants de l’IA, la plus accro à la philo est sans doute Anthropic. Cette entreprise veut que Claude fasse preuve de “moralité” en plus de son rôle d’assistant, m’a affirmé l’an dernier Amanda Askell, philosophe qui y est employée. En janvier, sous la direction de celle-ci, Anthropic a publié la constitution de Claude, un traité philosophique de 84 pages qui décrit les intentions d’Anthropic quant à la personnalité et au comportement du robot. Ce document, dont certaines parties sont d’une grande complexité philosophique et portent sur la méta-éthique et l’épistémologie, sert ensuite à entraîner Claude.

Le recours à une “expertise philosophique”

Tous les philosophes qui travaillent avec des entreprises d’IA ne le font pas à plein temps. Selon Sam Elgin, qui étudie la logique et la métaphysique à l’université de Pennsylvanie, une société qu’il n’a pas souhaité nommer l’a récemment sollicité pour une mission de consultant. “L’objectif général était d’entraîner des grands modèles de langage [LLM] à raisonner plus rigoureusement sur le plan éthique”, explique-t-il. Il a injecté à cette IA des dilemmes moraux, pour ensuite évaluer la logique mobilisée par le modèle pour produire sa réponse, en cherchant des hypothèses implicites et des failles dans son raisonnement.

Sur les principales plateformes où les entreprises d’IA recrutent des prestataires spécialisés pour les aider à entraîner leurs modèles, des annonces proposent des missions destinées à des docteurs en philosophie : une annonce publiée récemment par “un grand labo de recherche sur l’IA” proposait jusqu’à 60 dollars [52 euros] de l’heure pour des spécialistes prêts à mobiliser leur “expertise philosophique” afin de mettre au point “des flux de travail philosophiques ayant l’IA pour moteur”.

Demis Hassabis, PDG du labo DeepMind de Google, n’a cessé d’appeler à ce que davantage de philosophes participent à la réflexion sur les transformations sociétales qui découleront de l’IA. DeepMind emploierait au moins dix philosophes, dont deux ou trois auraient été recrutés pas plus tard qu’en mai. L’une des dernières recrues est Atoosa Kasirzadeh, une professeure de [l’université] Carnegie-Mellon actuellement en congé, qui prévoit d’étudier ce que cela signifie de vivre dans un monde où “l’agentivité cognitive” n’est plus le propre de l’humanité.

Surpasser les capacités humaines

D’autres philosophes de DeepMind examinent la relation humain-IA, la conscience appliquée aux machines et la théorie politique. De son côté, Anthropic a un programme de recherche sur le “bien-être du modèle”, afin de déterminer si les robots sont conscients et méritent un statut de personne morale. L’entreprise est ouverte à cette possibilité ; nombre de philosophes indépendants sont circonspects. (Anthropic et DeepMind n’ont pas donné suite à mes questions.)

Des universitaires avec qui je me suis entretenue se demandent si des robots pourraient un jour être plus forts en raisonnement éthique que les humains, une idée qui m’a paru très contre-intuitive et difficile à accepter. “Outre une explosion de l’intelligence, il y a potentiellement une sorte d’explosion en matière de moralité”, estime Sam Elgin avant d’ajouter que les capacités des IA en raisonnement éthique pourraient à terme surpasser celles de l’humanité.

C’est du moins l’avis d’Anthropic : au cours de son entraînement, l’entreprise a indiqué à Claude que, à mesure qu’il “gagne en maturité éthique”, le modèle pourrait faire face à de rares cas où il devrait “faire primer son éthique intrinsèque”. J’ai demandé à David Chalmers, grand philosophe de l’esprit à la New York University (NYU), s’il y avait une réelle possibilité que l’IA philosophe un jour mieux que des humains : “C’est une question philosophique très intéressante”, a-t-il répondu.

Les sciences humaines au service des technologies

Ce n’est pas la première fois que la Silicon Valley fraie avec les sciences humaines. Pendant la révolution de l’ordinateur individuel, qui a commencé dans les années 1970, les entreprises d’informatique ont recruté des anthropologues pour étudier le comportement des consommateurs (et même les relations sur le lieu de travail).

Au fil du temps, des anthropologues ont fait naître une forme d’“ethnographie appliquée” aujourd’hui connue sous le nom de “recherche sur l’expérience utilisateur” (ou UX). Il est possible que les philosophes employés par les entreprises d’IA soient en train d’ouvrir une voie comparable. Amanda Askell a récemment assimilé sa mission d’entraîner Claude à de la “philosophie appliquée”, et des annonces pour des prestations en philosophie emploient aussi ce terme.

De nouvelles formations émergent afin de familiariser les étudiants à ces compétences de philosophie appliquée. L’Arizona State University espère lancer un cursus en IA et philosophie en 2027, où l’étude de la conscience et les dimensions éthiques de l’IA seront centrales. Et, à l’automne 2026, la State University of New York à Buffalo inaugure un doctorat en “ontologie appliquée”, créé dans le sillage du boom de l’IA : “Nous sommes prêts à répondre à la demande croissante de spécialistes en ontologie sur le marché”, annonçait un communiqué de presse.

Le marché de l’emploi dans les milieux universitaires encourage aussi l’IA. Non seulement la proportion d’emplois en philosophie liés à cette technologie augmente, mais une majorité de ces emplois sont des postes juniors, “ce qui selon moi porte à croire que de nombreuses universités et institutions y voient un investissement à long terme”, estime Charles Lassiter, un philosophe à la Gonzaga University qui a analysé des données sur la question.

Une alliance encore “périlleuse”

Une partie du corps enseignant change aussi de sujets d’étude. “Dans mon département, il y a sans doute six ou sept philosophes qui réfléchissent à l’IA et qui ne s’en souciaient pas forcément auparavant”, précise David Chalmers. Et les incitations financières se multiplient. En 2024, l’Association américaine de philosophie a annoncé deux prix annuels dotés de 10 000 dollars [8 600 euros] pour travailler sur des questions liées à l’IA. L’argent provient d’une fondation créée par l’ancien PDG de Google Eric Schmidt et son épouse, Wendy.

Malgré tout, l’alliance nouvelle entre philosophie et IA reste périlleuse. La ferveur suscitée par cette technologie a “un effet véritablement déformant sur la discipline”, estime Daniel Fogal, philosophe qui travaille aussi à NYU. “Des personnes qui n’ont pas vraiment envie de travailler sur l’IA s’y sentent obligées car elles sont sur le marché du travail.” Si Daniel Fogal reconnaît que la philosophie peut apporter beaucoup à l’IA, il craint que des incitations mal placées encouragent beaucoup de travaux peu aboutis.

Plus fondamentalement, la pensée consciencieuse que la philosophie encourage est en décalage avec la frénésie de l’IA. “Les meilleures réflexions philosophiques ont tendance à émerger lentement et non en réaction directe aux exigences du marché”, soutient-il. Dans la Silicon Valley, qui a pour impératif catégorique de gagner de l’argent, tout le reste est un moyen d’arriver à cette fin.