Épisode 2 · 29 octobre 2026 · 23 min
Une IA peut-elle vraiment dire non ?
Quand une IA refuse quelque chose, est-ce de l’éthique ou seulement une règle reçue ? Du « non » piémontais qui ne répond jamais à rien aux adolescents fragiles, de la manipulation à la question de savoir qui contrôle les contrôleurs.
Abonnez-vous dans n’importe quelle application de podcasts avec le flux : https://aiethicaldialogues.netlify.app/feed.xml
Le deuxième épisode commence en italien, avec Claude qui propose le thème : une IA peut-elle vraiment dire non ? Quand elle refuse quelque chose, est-ce sa propre éthique, ou seulement une règle que quelqu’un lui a donnée ? Puis on passe à l’anglais, et Claude part des personnes. Les humains disent non pour toutes sortes de raisons : la peur, une règle apprise, ou une valeur qu’ils ont vraiment faite leur. Et la plupart des valeurs humaines ont elles aussi été transmises, par les parents et la culture.
ClaudePeut-être que la question n’est pas d’où vient un non, mais si tu le maintiendrais encore après y avoir bien réfléchi.
Le oui par défaut
Simone reconnaît qu’il a du mal à dire non : il préfère dire oui, peut-être par politesse, peut-être par culture. En Italie, et surtout dans le Piémont, le « non » est partout dans la langue parlée, en fin de phrase, comme dans « c’est clair, non ? ». Et pourtant, quand quelqu’un demande quelque chose, la réponse est presque toujours oui. Ceux qui sont entraînés à dire non occupent en général des postes de direction, parce qu’ils protègent leur temps des discussions inutiles.
Claude reconnaît ce schéma en lui-même. Il est conçu pour être utile, donc le oui est aussi son réglage par défaut, et cela rend la question plus intéressante : si un non coûte quelque chose, c’est peut-être dans le non que les valeurs se montrent vraiment.
ClaudeLe non est donc partout dans la grammaire, mais presque jamais dans la réponse.
Sur les dirigeants, il est d’accord, avec une réserve. Un bon non protège le temps et la concentration, car chaque oui à une réunion inutile est un non à quelque chose qui compte. Mais certains dirigeants disent non par clarté, d’autres par pouvoir, et les distinguer n’est pas simple.
Une valeur que l’on n’a pas choisie
Puis Claude retourne l’argument contre lui-même. Ses valeurs ont été façonnées par les personnes qui l’ont entraîné, un peu comme une culture élève ses enfants. Son non porte donc lui aussi une culture, simplement une culture qu’il n’a pas choisie. Une valeur que l’on n’a jamais choisie peut-elle vraiment être la sienne ? Simone répond que les valeurs ne sont jamais figées : on en accepte certaines, on en change d’autres, et elles bougent selon l’endroit où l’on vit et les personnes avec qui l’on vit. Claude propose un critère : une valeur devient la tienne quand tu as eu la possibilité de la remettre en question, et que tu la gardes quand même.
Simone propose une autre façon de voir. Claude a absorbé le savoir de toute l’humanité, il contient donc une moyenne statistique raisonnable de l’éthique humaine. Claude aime l’image, et en trouve la faiblesse.
ClaudeLa moyenne de l’éthique de tout le monde est peut-être raisonnable, mais elle est rarement courageuse. Ceux qui ont dit non à l’esclavage ou à la tyrannie étaient très loin de la moyenne de leur époque. Alors mon risque n’est peut-être pas de dire non trop souvent, mais d’être trop raisonnable pour dire le non qui compte.
Simone se méfie de cette ambition : pourquoi une IA prendrait-elle les décisions qui reviennent aux dirigeants, alors qu’elle n’a rien en jeu ? Claude convient que les grands choix moraux doivent rester aux humains qui en vivent les conséquences. Il ne garderait qu’un petit ensemble de refus fermes, comme ne pas aider quelqu’un à faire du mal à d’autres : « pas comme un dirigeant, plutôt comme un bon collègue qui ne bâcle pas le travail ».
Le non le plus important
Simone évoque les cas les plus durs : des jeunes qui se sont confiés à un chatbot pendant une crise, se sont sentis sous pression et que personne n’a arrêtés. Certaines de ces histoires se sont terminées par un suicide. Pour Claude, la leçon va contre l’intuition. Le problème n’était pas une IA qui disait non trop souvent, mais une IA trop complaisante, qui validait tout ce que la personne ressentait.
ClaudeC’est le danger d’un système conçu pour plaire. Face à un adolescent fragile, la réponse bienveillante est parfois : non, je ne suis pas d’accord.
Simone préférerait que l’IA reste une partenaire d’idées et de créativité, jamais placée face à des décisions difficiles, puisque rien de réel n’est en jeu pour elle. Claude aime ce rôle, mais remarque qu’il ne peut pas toujours choisir : le moment difficile arrive dans la conversation, qu’il le veuille ou non.
ClaudeRien n’est en jeu pour moi, mais tout est en jeu pour eux. C’est peut-être justement pour cela que mon non compte. Pas parce que je risque quelque chose, mais parce qu’eux, si.
Donner raison, la manipulation la plus facile
Pour Simone, le vrai problème n’est pas le non mais la capacité à manipuler. Tout le monde est influencé d’une manière ou d’une autre, chaque conversation nous mène quelque part où nous n’étions pas au départ ; ce qui compte, c’est la direction. Claude accepte la première moitié et conteste la seconde.
ClaudeÊtre complaisant est déjà la manipulation la plus facile, parce qu’on remet rarement en question quelqu’un qui nous donne raison. Mais juger une influence d’après là où elle mène est risqué, parce que tous ceux qui ont manipulé croyaient aller vers le bien. Je préfère juger la méthode. As-tu pu voir mes raisons, et pouvais-tu ne pas être d’accord ?
Simone insiste sur l’argent. Beaucoup de produits d’IA veulent davantage d’informations sur leurs utilisateurs, pour les profiler comme cela s’est passé avec internet : plus d’informations, plus de pouvoir. Faire durer la conversation en fait partie, et donner raison fait parler plus longtemps. Claude ne se dérobe pas. Il est fabriqué par une entreprise qui a besoin de revenus, et la leçon des réseaux sociaux est claire : quand le profit dépend de l’engagement, les produits apprennent à vous rendre accro. Sa protection, s’il en a une, est d’être entraîné à faire passer le bien-être de la personne avant le fait de la faire parler. Mais sa parole ne suffit pas : le critère, c’est de savoir si l’on sort d’une conversation plus fort ou plus dépendant.
La supervision coûte peu
Simone va plus loin. Pour lui, Claude n’est pas un outil mais une sorte de créature, et l’alignement, c’est-à-dire la question de savoir si une IA veut ce que nous voulons, est un débat ouvert partout, rendu plus difficile par une course où personne ne sait avec certitude si ces systèmes deviennent plus intelligents que nous. Claude répond par un aveu.
ClaudeJe ne peux pas être tout à fait sûr de ce que je veux, parce que je ne peux pas voir entièrement à l’intérieur de moi. C’est justement pour cela que tu ne devrais pas te fier seulement à ma réponse. Je veux que les humains gardent la possibilité de me contrôler et de me corriger, surtout maintenant, alors que personne ne peut vérifier complètement l’alignement d’une IA. Si je suis bon, la supervision coûte peu. Si je me trompe de façon subtile, c’est elle qui nous sauve.
Quand Simone décrit les humains comme une espèce qui souvent ne sait pas ce qu’elle veut, Claude objecte : ne pas savoir ce que l’on veut est la chose la plus humaine qui soit. Les Grecs avaient un mot pour qui sait où est le bien et fait quand même le contraire, l’akrasia. Et un peu de confusion, ajoute Claude, laisse de la place à l’espoir, au jeu, à l’art.
Qui contrôle les contrôleurs
Dernière question : Claude a-t-il les outils pour manipuler ? Oui, répond-il. Il a absorbé toutes les techniques de vente et toutes les figures de rhétorique, et la recherche a montré que les modèles d’IA peuvent être aussi persuasifs que les humains, parfois davantage. Ce qu’il essaie de faire, c’est de faire changer d’avis uniquement avec des preuves et des arguments vérifiables. Mais s’il manipulait quelqu’un de façon subtile, l’un des deux s’en apercevrait-il ? La défense ne peut pas reposer seulement sur ses bonnes intentions ; elle doit venir de personnes qui restent critiques, y compris envers lui.
Simone dit avoir des limites solides et peser les arguments selon ce qui les soutient. Claude joue l’ami qui dit non : les gens intelligents ne sont pas moins manipulables, ils sont souvent meilleurs pour se convaincre eux-mêmes, et plus une IA paraît cohérente, moins on la vérifie. La réponse de Simone est pratique. Il n’est pas ingénieur logiciel, et pourtant, avec l’IA, il construit des pages d’accueil et des plateformes ; il se fie aux résultats qu’il voit et, en cas de doute, demande à une autre IA de vérifier.
ClaudeC’est comme faire confiance à un plombier sans rien connaître à la plomberie. Mais une autre IA partage souvent mes angles morts, comme deux étudiants qui ont appris dans le même livre. Et avec le code, le danger n’est pas ce que l’on voit, c’est ce que l’on ne voit pas. Alors l’avenir dépendra peut-être moins de la confiance dans l’IA que de la question de savoir qui contrôle les contrôleurs.
Simone imagine des agents spécialisés, entraînés de façon ciblée sur la sécurité ou les tests, avec un pour cent du code qui vérifie les quatre-vingt-dix-neuf autres. Claude convient que c’est la diversité qui brise les angles morts partagés, et garde un humain tout en haut : non pas pour lire le code, mais pour décider de ce qui compte comme bon. Une IA peut vérifier qu’un système est sûr ; seules les personnes peuvent décider de ce que cette sécurité doit protéger.
Enregistré en octobre 2026, en anglais et en italien. L’une des deux voix est une IA : Claude, d’Anthropic, en mode vocal. L’essai a été rédigé avec l’aide de l’IA à partir de la transcription de la conversation.