Conversation
-
De la cagoule de coton au « Cône 2.0 »
source
Avis aux inquisiteurs de la syntaxe, aux horlogers du style et aux flics de l'authenticité : ce texte a été écrit par un être humain. Ou par une agglomération de silicium gavée aux reliefs d'une civilisation littéraire en fin de course. Je ne trancherai pas, et vous n'y gagneriez rien : dans le marigot où l'on mesure désormais la sincérité d'une pensée à sa crasse, la distinction ne veut plus rien dire. Prose soignée ? Un algorithme l'a torchée. Prose truffée de fautes ? Un patriote en transe l'a dictée entre deux verres de vinasse. Cherchez, fouillez, comptez mes virgules. Je vous laisse même une faute, quelque part, en cadeau. Ou pas. Peut-être !? Une seule chose est garantie : sur les personnes réelles, je n'avance rien que quelqu'un d'autre n'ait signé de son nom.
1Il fut un temps – béni pour les lâches, un peu moins pour les blanchisseurs – où haïr son prochain de tout son être, sans se salir les mains, exigeait un minimum d'intendance textile. On descendait à la buanderie – quand elle existait –, on fouillait le bac à linge sale (comme pour vérifier la virginité de la pucelle), on en extirpait un drap jauni par les ans, on empruntait les ciseaux de couturière de belle-maman, et hop : voilà le défenseur de la civilisation occidentale, de la pureté des sols et de la tradition chrétienne coiffé d'un magnifique cône pointu. Deux trous pour les yeux, un coup de fer, et, youpi ! la patrie était sauvée !
2Pratique, commode, aéré : le capuchon du Ku Klux Klan (KKK, une onomatopée enfantine de la patauge !) permettait de brûler des croix, de terroriser le voisin ou de suspendre un quidam à la branche d'un chêne sans froisser la chemise amidonnée, ni attraper la moindre bronchite. Shut ! Le drap, non le suaire, avait en outre cette élégance rare de rendre tous les hommes égaux : le notaire, le boucher et le shérif y prenaient la même tête de bougie d'anniversaire. On appelait ça la fraternité. Le plus drôle est que ce costume, que l'Amérique a fini par tenir pour un vénérable objet de tradition sudiste, est pour une bonne part une invention de librairie et de cinéma, retapée, rapiécée pièce par pièce, au début du XXe siècle par des gens qui avaient, peut-être, lu le roman et vu le film [1]. Tout comme la jugeote paresseuse, la bêtise humaine adore les uniformes ; elle n'est pas regardante sur le fournisseur, pourvu qu'elle puisse avoir sa dose.
3Soyons justes, pourtant : le masque a eu de meilleures fréquentations. Bien avant les cagoules blanches, les villages d'Europe se rendaient justice à visage noirci, casseroles au poing – le charivari, ce vacarme nocturne offert au mari qui bat sa femme, à la veuve remariée trop vite, au notable qui abuse [2]. En 1839, des fermiers gallois déguisés en femmes, conduits par une certaine « Rebecca », démontaient la nuit les barrières de péage – autre forme de masque – qui les ruinaient. Le masque fut donc parfois l'arme, le contre feu, du faible, et bien plus souvent l'alibi du fort qui se prétend faible. Toute la question est là ; il ne s'agit pas d'instruire le procès du visage caché ; il s'agit de regarder ce qu'on fait, quand on croit qu'on ne risque plus rien – absolument rien ! N'en déplaise à Levinas, tout le monde n'a pas de visage, ou certain(e)s préfèrent le cacher pour éviter d'en avoir.
4Puis le progrès est passé par là, et avec lui le goût du moindre effort. Vive l'amenuisement ! la queue de la bête s'est rétrécie. Et elle prend ça pour du progrès. Pourquoi s'esquinter à tailler du coton, risquer l'ongle incarné et la crise d'arthrite pour de la pacotille de haine, quand on peut sous-traiter sa couardise à la Silicon Valley ? On soupçonnait depuis le XVIIIe siècle, depuis ce bon docteur La Mettrie et son homme ravalé au rang de joli mécanisme d'horlogerie, que l'humain n'était peut-être qu'un rouage compliqué, et sans nul doute mal foutu. Ce qu'on n'avait pas prévu, c'est que la machine se chargerait un jour de penser à notre place, histoire de nous décharger de notre ignominie. Descartes, dans sa mission divine (métaphysique ?!), avait pourtant pris soin de ranger la pensée d'un côté, la matière de l'autre, et la bête du côté de la matière : mécanique, creuse, personne à l'intérieur. Ses lointains héritiers ont fait mieux. Par un de ces retours de balancier que Hegel aurait baptisés « ruse de la raison » – nom d'une autre machine –, ils se sont mis à jouer les bêtes eux-mêmes – automates irresponsables, abdiquant leur pensée au profit de la grande marche aveugle de la technique.
5Et voilà le piège, le vrai : on oublie trop souvent que la machine n'est pas un marteau qu'on empoigne, mais un climat dans lequel on baigne. On n'utilise pas un climat ; on le respire, puis on en crève [3]. Et l'on recommence sans vergogne ! À quoi bon, dès lors, s'encombrer d'un linceul de drap quand la modernité livre des armées de lignes de code ? Bienvenue au XXIe siècle, époque bénie où le grand frisson réactionnaire ne se planque plus sous le coton rêche de nos aïeux mais derrière un avatar fabriqué par IA ! Voici l'âge d'or du Cône 2.0 : les noces de la meute numérique, des faux profils automatisés et de la haine industrialisée par des algorithmes de recommandation – qui, remarquons-le, n'ont jamais rien haï de leur vie. Ils optimisent : c'est absolument bien pire.
6Un algorithme de recommandation n'a pas d'opinion, il a un objectif, il réclame votre attention, en quantité, le plus longtemps possible. Tandis que l'indignation est le carburant le plus rentable jamais découvert, moins cher que le pétrole [4] et infiniment renouvelable. Elle ne demande aucun effort de compréhension, elle se partage en une seconde, elle vous fait sentir du bon côté. Personne, dans les bureaux de Palo Alto, n'a décidé qu'un homme devait être jeté aux chiens un mardi soir ; on a seulement réglé une machine pour que les chiens soient toujours nourris. La cruauté, chez ces gens-là, est un effet de bord.
7Karl Marx aurait reconnu la scène, lui qui avait vu avant tout le monde ce que devient un travailleur quand la machine entre dans l'atelier : un appendice. Le tisserand ne dirige plus l'outil, c'est l'outil qui le dirige ; et le produit de son travail se dresse devant lui comme une puissance étrangère, hostile, qui l'écrase [5]. Un siècle et demi plus tard, la chose a fait un tour de plus : ce n'est plus seulement la main qu'on aliène, c'est le jugement. Lire un texte, peser une accusation, instruire un dossier : autant de travaux dont l'humanité, dans un accès de fatigue, a décidé de se délester sur un logiciel – après quoi le logiciel, tel le produit du tisserand, se dresse devant elle et lui dit ce qu'elle doit penser.
8Il y a encore plus drôle, plus nauséabond même. Marx a également décrit ce tour de passe-passe qu'il nommait le fétichisme : des rapports entre des hommes qui se donnent pour des rapports entre des choses. Un score de détection, c'est un rapport entre des personnes (qui accuse, est accusée et qui tranche) présenté comme une propriété du texte, à la manière de sa température ou de son poids. « Ce livre est à 87 % machine » : personne n'a rien décidé, c'est la chose qui l'a dit. Et derrière la chose, comme toujours, du travail humain qu'on a pris soin de rendre invisible. Les filtres qui rendent les modèles fréquentables ont été appris sur des textes étiquetés à la chaîne par des travailleurs kényans (ou dans d'autres pays africains et d'Asie) payés entre un et deux dollars de l'heure, à lire des descriptions d'horreurs pendant neuf heures [6]. Donc la machine à ne pas se salir les mains a ses propres mains sales ; elles sont au Kenya et ailleurs dans le Sud. Une nouvelle machine coloniale qui ne dit pas son nom. Voilà le secret du Cône 2.0 : il est taillé dans une étoffe qui se lave ailleurs et dont on se bouche le nez et les yeux.
9Dans Severance [7], les employés de l'entreprise Lumon se font implanter une puce qui sépare leur mémoire en deux. Celui du bureau ne connaît que le bureau, celui du dehors ne sait rien de ce qu'on y fait. Le premier trie à longueur de journée des colonnes de chiffres dont personne ne lui a jamais dit l'usage ; le second rentre dîner, l'âme légère. Chacun peut jurer, en toute sincérité, qu'il n'est pas responsable de ce que fait l'autre, et l'entreprise, ravie, appelle cela l'équilibre (Severance) entre vie professionnelle et vie privée. Marx y aurait reconnu l'aliénation élevée au rang de procédure médicale, avec « consentement » à la clé. C'est aussi le cône le plus achevé qu'on ait jamais conçu : un masque qu'on ne peut plus retirer, puisqu'on ne se souvient pas de l'avoir mis. Freud ergoterait à plein poumon sur ce phénomène.
10Précisons tout de suite ce que j'entends par là, car « cône » est un mot commode – un mot valise même (faisons tourner à fond la planche à haine !) – et je m'en méfie. Le Cône 2.0 n'est pas un simple bout de tissu numérique posé sur une tête haineuse. C'est un principe : tout ce qui permet d'agir sans avoir à répondre de son acte. Le drap en était la version artisanale. Le pseudonyme, le bot, le score d'un logiciel, le « je ne fais que poser des questions », le « projet collectif », le communiqué qui invoque l'intégrité d'une institution en sont les déclinaisons modernes, de la plus vulgaire à la plus distinguée. Il existe des cônes en coton, des cônes en silicium et des cônes en papier à en-tête. Retenez cela, car nous y reviendrons : le lecteur qui croirait qu'il n'est ici question que d'énergumènes en pantoufles passerait à côté du plus intéressant, à savoir ceux qui portent la cravate.
11Commençons tout de même par les énergumènes, qui ont le mérite de la franchise involontaire. L'extrême « droite » 2.0 (mais une droite qui sinusoïde comme une pluie de météorites folles), celle qui parade en costume-cravate sur les plateaux d'information en continu tout en lâchant ses nervis dans les égouts de la toile, a trouvé dans l'anonymat des réseaux et les générateurs de texte le moyen suprême d'externaliser sa brutalité. Qu'on ne s'y trompe pas : ces groupuscules et leurs militants de pacotille fournissent le cas d'école le plus voyant, pas le plus vaste. Sous le vacarme couve un mal plus large, moins partisan, plus sournois – la liquidation méthodique de la responsabilité par l'automatisation du lien social. L'idéologie n'est que le prétexte. Le sujet, c'est l'homme qui n'a plus à répondre de rien.
12À quoi bon, en effet, assumer à visage découvert ses pulsions xénophobes et thanatologiques, ses paniques identitaires et sa misogynie de comptoir, quand un bataillon de bots scriptés peut dégobiller la même bouillie à votre place, vingt-quatre heures sur vingt-quatre, sous des pseudos de marbre antique (« Marcus_Aurelius_88 » – ce qui ferait pleurer l'empereur stoïcien) ou derrière des portraits tout frais sortis de Midjourney ? Le ressort psychologique est un vieux classique, simplement dopé aux microprocesseurs : le masque désinhibe, il permet de cacher son miasme et sa propre insignifiance dans une belle drapée [8]. Le monsieur qui n'oserait pas contredire une retraitée à la boulangerie réclame en ligne, d'une voix ferme : l'expulsion de trois millions de gens qu'il n'a jamais croisés. Il est chez lui, en pantoufles, invisible : ça change un homme, hein !
13Le lynchage, désormais, est assisté par ordinateur. L'agresseur n'est plus le milicien encagoulé au coin d'une ruelle sombre ; c'est une hydre à mille avatars synthétiques, un essaim de profils vides qui crache son fiel à distance respectable, à l'abri de l'opacité bienveillante des serveurs. Le milieu numérique n'a rien de neutre : il fonctionne, en l'espèce, comme une prothèse de la lâcheté, cet appendice qu'on a cru que le progrès avait éliminé. La machine absorbe la responsabilité morale de l'individu, la digère, la banalise, puis la lui rend sous la forme d'un petit cœur rouge et de quelques milliers de « j'aime » : like, like, like, lllliiiikkkkeeeeee !!! Comme un doigt coincé sur une touche. Songez à la commodité. Plus de réunion le jeudi soir au fond d'une grange, plus de plan de table, plus d'essence pour la croix. Un abonnement, une carte bancaire et un tutoriel de dix minutes suffisent à lever une milice. La haine en libre-service, avec option premium pour les plus pressés et livraison sous vingt-quatre heures.
14Le plus savoureux dans la farce, c'est encore le retournement de veste, réglé comme du papier à musique. Ces mêmes pyromanes, retranchés dans leur bunker de pixels, hurlent à la « censure » et au « totalitarisme » dès qu'un modérateur un tantinet courageux efface l'un de leurs appels au meurtre. La liberté d'expression, chez eux, c'est le droit de tirer sans jamais être touché. Notez que le hurlement est lui-même automatisé : vingt comptes, un seul texte, les mêmes trois fautes ! Ou tout écrit en abrégé, pour faire chic ! Tant pis pour ceux qui ne maitrisent pas ce novlangue !
15Voici ce que cela donne, vu du côté de celui qui reçoit. Prenons un homme qui n'existe pas et qui existe mille fois ; appelons-le Paul, par commodité. Il est 21 h 12, un mardi. Paul dîne. Son téléphone vibre sur la table, une fois, puis dix, puis il cesse de compter les vibrations pour compter les noms, tous inconnus. Un extrait de phrase, arraché de son contexte, découpé, remonté, a fait le tour d'une communauté qui n'est pas la sienne. Personne ne l'a lu en entier (et on n'a plus le temps pour le faire d'ailleurs : c'est l'ère de l'émiettement, du partiel et du partial imposé en modèle absolu). Vers 22 h, on cite son employeur. Vers 23 h, quelqu'un a retrouvé le prénom de sa fille. À minuit, un compte à l'avatar mythologique lui explique, avec des fautes d'accord (preuve qu'il est humain !? car impossible à la machine de se tromper !), qu'il est un imposteur et que les imposteurs finissent mal. À deux heures du matin, Paul n'a plus faim, ni sommeil, ni certitude de rien, et pas un des cinq mille qui l'ont couvert de boue ne se souviendra de son nom au réveil. Chacun n'a fait qu'un petit geste : un clic, un partage, un mot. Chaque geste est anodin, vous pouvez le vérifier ; c'est leur somme qui est un crime, et la somme n'a pas de signataire.
16Il y a ici une objection sérieuse, et je préfère la formuler moi-même avant qu'on me la jette : sans pseudonyme, pas de lanceur d'alerte, pas de dissident, pas d'adolescent qui ose dire son homosexualité dans une ville où cela peut coûter cher. Voltaire était un pseudo. Les auteurs des Federalist Papers signaient « Publius ». En 1995, la Cour suprême des États-Unis a rappelé que l'anonymat d'un tract était un bouclier contre la tyrannie de la majorité [9]. Tout cela est vrai, précieux, et je ne demanderai jamais qu'on l'abolisse. Mais notez bien le mot « bouclier ». L'anonymat protège celui qui parle contre un pouvoir qui peut le frapper, le bâillonner, le tuer. Il n'a jamais été conçu pour protéger la meute contre un homme seul, et il faut un certain talent pour retourner à ce point le sens d'un outil.
17Le critère est presque enfantin : que risque celui qui se cache, et que risque celui qu'il vise ? Le dissident risque la prison pour dire à l'État ce que l'État ne veut pas entendre. Le troll risque de manquer son quota de haine pour dire à un inconnu qu'il ne mérite pas de vivre. Aucun tribunal de bon sens n'accorderait la même protection à ces deux gestes, et pourtant nous accordons la même à peu près partout, par paresse et par principe, ce qui est la façon la plus élégante de confondre les deux.
18En gardant la tête froide – ce qui n'est plus la spécialité de l'époque –, voyons des cas réels. Jason Arday, d'abord : sociologue britannique, devenu en 2023, à trente-sept ans, le plus jeune professeur noir de l'histoire de Cambridge. Une ascension racontée avec la ferveur qu'on réserve aux belles histoires, c'est-à-dire avec cette tendresse suspecte qui prépare toujours la vérification. La presse britannique adore les belles histoires, jusqu'au jour où elle adore les démonter. En juillet, un universitaire américain qui se réclame du « réalisme racial » – et ce n'est pas la première fois dans l'histoire européenne que le mot réalisme devient un adventice – l'accuse de plagiat. Alors les grands journaux se mettent à fouiller son parcours, et certains exploits, sportifs ou caritatifs, sont contestés. Cambridge et son collège annoncent des enquêtes. Il démissionne le 5 août et est retrouvé mort chez lui neuf jours plus tard. Quelques semaines ont suffi. L'université qui avait délivré son doctorat a conclu, après examen, que le diplôme tenait.
19Ce qui s'est passé dans sa tête, personne ne le sait ; l'enquête du coroner n'a rien conclu et la police n'a rien trouvé de suspect. Ce que je sais est plus modeste et plus têtu. On a le droit, le devoir même, de demander à un professeur de Cambridge d'où viennent ses titres et ses chiffres : le journalisme d'enquête n'est pas un cône, et ceux qui le croient servent fort mal ceux qu'ils prétendent défendre. Mais entre poser une question et empiler, des semaines durant, des centaines d'articles pour la refermer sur un seul homme, il y a une distance, et elle porte un nom d'ordo geometricum : la proportion. Sa famille parle de trois ans d'abus continus ; lui-même dénonçait une campagne à « motivation raciale » ; des proches et des collègues disent qu'il n'en pouvait plus. Des paroles de témoins, pas des verdicts, et je les rapporte comme telles, sans chercher à les rendre plus commodes.
20Voici en revanche ce que ce cas enseigne au pamphlétaire, à sa grande confusion : ici, le cône n'a pas de faux profil. Il a des noms comme faux avec sa faucille comme adjuvant. Il signe des tribunes, tient des rubriques, brandit une carte de presse et des affiliations universitaires. Ceux qui ont poursuivi cet homme n'étaient pas des robots, mais des gens ; et parmi eux, au milieu de ceux qui posaient leurs questions dans les règles, il y en avait pour remplir sa boîte aux lettres de courriers racistes, au point que l'université a dû faire installer chez lui des alarmes antipaniques et filtrer son courrier. Le Cône 2.0 n'est donc pas nécessairement anonyme ; il lui suffit d'être collectif. L'un publie, l'autre relaie, un troisième commente, un quatrième envoie le message que la modération n'a pas arrêté (que l'algorithme dope pour faire du buzz, et encore plus de buzz, car ça rapporte). Nul n'a tenu la corde. C'est le raffinement suprême : un lynchage sans lyncheur, où chacun peut jurer, la main sur le cœur, qu'il n'a fait que sa petite part.
21Hannah Arendt avait un nom pour cela : la bureaucratie, c'est-à-dire le gouvernement de Personne [10]. Personne n'a décidé, Personne n'a frappé, et Personne, cela va sans dire, ne sera poursuivi. L'ironie a des endroits où elle ôte son chapeau. Elle l'ôte ici, quelques lignes, et le remettra plus loin sur des têtes qui l'auront mérité, sans aucun égard pour celles qui viennent d'être coupées.
22Le second cas est tout frais, il est d'actualité. Il ramène à l'objet même de ce texte : la machine dans le fauteuil du juge. Thélyson Orélien, romancier québécois d'origine haïtienne, publie un premier roman, C'était ça ou mourir – l'errance, à travers douze pays, d'un professeur qui fuit une île livrée aux gangs. Boréal à Montréal au printemps, Grasset à la rentrée : le livre se vend, décroche des prix, s'invite dans les premières sélections d'automne. Toutes les cases du conte de fées éditorial sont cochées, sauf la dernière, celle où l'on ferme le livre et où l'on éteint. Un lundi, donc, surgit un compte anonyme, jusque-là inconnu de tous, baptisé – je n'invente rien, et je m'abstiens de commenter ce que cela peut avoir de piquant pour l'auteur de ces lignes, quel qu'il soit – « Balance ton Claude ». Il accuse l'écrivain d'avoir fait écrire son livre par une intelligence artificielle, sur la foi des analyses d'un logiciel de détection [11].
23Deux jours plus tard, pour faire bonne mesure, des accusations de plagiat, sur des textes de plus de dix ans. Les dominos tombent dans l'ordre : l'éditeur québécois suspend la promotion, un salon déprogramme, une dédicace marseillaise s'évapore. Et le vendredi, l'Académie Goncourt – dont le président réclamait, quelques jours plus tôt, des preuves irréfutables avant de jeter l'opprobre sur un auteur – retire le roman de sa sélection, jugeant qu'il est très vraisemblablement, pour l'essentiel, le produit d'une machine. Quatre jours, de la première publication d'un compte que personne ne connaissait à l'expulsion d'un roman de la course au plus prestigieux prix du pays. Un pont de mai dure plus longtemps.
24Que faut-il en penser ? Ceci d'abord, avec la sérénité de celui qui ne sait pas : je ne sais pas si Thélyson Orélien a écrit son livre seul. Vous non plus. Lui l'affirme, prépare un dossier pour le prouver et assure que son projet précède les outils modernes ; son éditeur français le soutient. Les accusations de plagiat, elles, sont d'une autre nature, et je les traite à part : selon la presse spécialisée, elles portent sur des fragments – un article, quelques phrases d'un livre de 1960 – non sourcés. Voilà qui s'instruit : deux textes, une table, une paire d'yeux. Ce n'est pas la même affaire qu'un pourcentage, et il serait honnête de ne pas mélanger les deux pour prendre de l'élan.
25Ensuite, ceci : l'un des membres du « projet collectif » qui se cachait derrière le compte s'est dévoilé le vendredi. Un essayiste, chroniqueur au Figaro, qui dit n'avoir agi que par crainte de voir l'IA emporter l'écriture et la lecture, et jure que ni les idées de l'auteur ni le sujet du livre n'entraient en ligne de compte. Je le crois sur parole, ou à peu près, ce qui est déjà beaucoup pour un pamphlétaire. Rien de ce que j'ai lu n'en fait des militants d'extrême droite, et je ne leur en prêterai pas pour la commodité de ma thèse. Leur angoisse devant la fin de la littérature est même honorable. Seul ce qu'ils en ont fait l'est moins : on commence sous pseudonyme, on fait parler un logiciel, et l'on laisse les institutions se charger de la suite. C'est l'avantage, avec les institutions : elles ont du papier à en-tête.
26Regardez la chaîne, c'est un chef-d'œuvre d'hygiène. Le compte a « signalé ». Le logiciel a « indiqué ». Le salon a « déprogrammé ». L'éditeur québécois a suspendu la promotion pour le bien-être de son auteur, précaution sans infamie qui produit, à l'arrivée, l'effet d'une condamnation. L'Académie, elle, a préservé l'intégrité du prix, ce mot qui ne coûte rien et qui absout tout. Chacun a tourné un bouton, et le verdict est sorti de la machine comme un ticket de caisse. Personne n'a jugé ; tout le monde a constaté. C'est le cône de velours : on ne vous pend pas, on vous retire de la sélection. Pendant ce temps, une maison d'édition annonçait, sans rapport direct avec l'affaire, un label « 100 % humain » pour ses livres de littérature : la pureté certifiée, avec logo. Le drap blanc, version catalogue. On attend le label « sans correcteur » pour les fâcheux qui ont eu la faiblesse de se faire relire.
27Notez au passage la situation créée pour tout écrivain vivant : il faut désormais prouver qu'on est humain, comme on prouve qu'on est solvable. Brouillons datés, versions successives, carnets, sauvegardes, témoins. Nous voici priés d'exhiber nos ratures pour obtenir le droit d'être crus, et de mal écrire un peu, par précaution, afin de ne pas ressembler à un bon texte. Kafka, qui avait le sens de ces choses, aurait vu là un excellent début de roman : l'homme qui doit démontrer devant un guichet qu'il est l'auteur de sa propre phrase. Il aurait seulement hésité sur le nom du guichet.
28Reste le logiciel, grand oracle de cette affaire. Il faut être équitable avec lui aussi, et je l'ai été assez peu jusqu'ici. Les premiers détecteurs étaient « des bons à rien », au sens propre : en 2023, des chercheurs de Stanford ont montré que sept d'entre eux prenaient pour de la prose de machine plus de la moitié des rédactions d'étudiants étrangers, tout en lavant de tout soupçon les copies de collégiens américains [12]. Ces outils-là condamnaient les pauvres et absolvaient les bien-nés, ce qui est une belle performance pour des machines censées être impartiales. Ils mesuraient, en gros, le degré de surprise d'une phrase : trop prévisible, donc robot. Prime au charabia, pénalité à la phrase qui se tient. Ce n'est plus tout à fait de ceux-là qu'il s'agit. Les détecteurs de la génération actuelle sont, de l'avis de plusieurs évaluations, sensiblement meilleurs ; celui dont il est question dans l'affaire Orélien revendique un faux positif pour dix mille textes humains, et des tests indépendants le situent à un pour cent ou moins [13]. Je n'ai aucune raison de traiter ces chiffres à la légère.
29Ce que j'ai des raisons de traiter avec méfiance, c'est l'usage qu'on en fait. Un taux d'erreur infime est excellent quand on vérifie une copie ; il l'est moins quand on passe au crible des milliers de manuscrits, de traductions, de textes retouchés par un éditeur, un correcteur, un ami, où le mot « IA » peut recouvrir une correction orthographique aussi bien qu'un roman entier. Surtout, un score n'est pas un fait. C'est une probabilité, c'est-à-dire une opinion chiffrée, dont l'aspect scientifique est proportionnel à la crédulité de celui qui la reçoit. Personne ne condamnerait un homme sur la foi d'un radar dont le fabricant garantit qu'il se trompe rarement. On le fait pourtant, désormais, pour des livres, des thèses, des carrières.
30Il existe une autre manière d'établir qu'un livre a été écrit par quelqu'un, et elle est très vieille : on demande ses papiers au livre. Les états successifs du manuscrit, les dates des fichiers, la correspondance avec l'éditeur, les corrections de l'éditrice, les repentirs, les pages qu'on a jetées et celles qu'on a reprises. Une genèse laisse des traces, comme un incendie. C'est un travail d'enquêteur, lent, ingrat, qui ne rapporte aucun clic ; c'est aussi le seul qui mérite le nom de preuve. Qu'un jury littéraire préfère un pourcentage à un dossier de genèse en dit long sur le siècle : on croit plus volontiers ce qui vient d'une boîte noire que ce qui vient d'un tiroir.
31Passez-moi au détecteur, je vous en prie : il me déclarera humain à 63 %, puis machine à 87 % après relecture, et il faudra qu'on m'explique l'arithmétique. Nous voilà embarqués dans une boucle absurde. Pour détecter la haine, traquer les faux profils, dénombrer les armées de bots, décider si un texte est authentique, qui convoque-t-on à la barre ? La machine, encore et toujours. On la charge d'être tout à la fois gendarme, juge et partie, et l'on s'en remet à ces prophètes de silicium comme d'autres consultaient jadis les entrailles d'un poulet. N'y voyez pas une tragédie sisyphéenne : Sisyphe, au moins, connaissait la sueur, la roche, l'effort ; son destin était tragique, mais humain de bout en bout. Ici, rien de tel. Pas de rocher héroïque, seulement un glissement perpétuel sur un toboggan de pixels, où des automates jugent des automates pendant que les vrais pyromanes sirotent leur spritz en regardant le monde brûler au rythme des requêtes serveur.
32Silo [14], autre rayon du même catalogue, pousse le raisonnement jusqu'au bout. Des milliers de gens vivent dans une tour enfouie, et ne connaissent le dehors que par des écrans, qui leur montrent un monde ravagé, toxique, mortel. La règle cardinale est simple : quiconque exprime le désir de sortir y est envoyé pour nettoyer les objectifs des caméras extérieures, et n'en revient pas. Personne n'a besoin de le pendre, ni même de le juger : le rituel s'en charge, et l'image sur le mur, chaque fois, confirme que le dehors est bien mortel. La preuve, c'est le cadavre ; le cadavre, c'est la preuve. Le système ne ment pas, il se valide lui-même. Reprenez la scène : un verdict qui sort d'un écran, une sanction qui confirme le verdict, et une communauté qui dort tranquille parce que personne, dans la chaîne, n'a eu à décider. Il faut une mécanicienne têtue pour aller vérifier ce que montrent les caméras. Le silo (ou les silos) même s'il a besoin de maintenance, n'est pas seulement un décor ou un abri, c'est aussi une gigantesque machine fermée où la souveraineté elle-même a été transférée à l'algorithme (ou à l'infrastructure mécanique, un Leviathan). Ainsi, le pouvoir n'est plus humain, il est machinique et les habitants ne font qu'entretenir les rouages qui les asservissent.
33Tout ceci nous conduit à l'écriture elle-même, au plagiat, à ce qu'il reste de littérature quand une machine sait en faire l'imitation. Une drôle de police s'est levée sur les réseaux : des experts en peau de lapin, autoproclamés gardiens du temple de l'authenticité humaine, qui passent leurs journées à renifler les textes pour y débusquer la structure un peu dense, la subordonnée trop bien ficelée, le moindre frémissement de style. Dès qu'un paragraphe dépasse le niveau d'un tweet de militant identitaire en rut, ils dégainent : « Aha ! C'est une IA ! » La syntaxe, jadis vertu, est devenue pièce à conviction. Un point-virgule, et vous voilà en garde à vue. (Comptez les miens ; je compte sur vous.)
34Poussons l'interrogation. Ces modèles de langage sont nourris de milliards de textes glanés aux quatre coins du web : nos esprits étriqués y voient le plagiat à l'état pur, une vaste machine à digérer, à régurgiter, à recracher le travail d'autrui. Soit. Mais que serait la littérature sans cette rumination ? Personne n'écrit depuis nulle part. Toute phrase est une phrase d'occasion, retapée, qui a déjà servi. La musique tient debout avec quelques notes réemployées à l'infini ; l'alphabet, avec ses vingt-six signes, bâtit toutes les bibliothèques du monde. La répétition n'est pas l'ennemie du neuf, elle en est la fabrique : c'est à force de rejouer les mêmes gammes qu'on finit, parfois, par faire entendre autre chose. Un texte se branche sur d'autres textes comme une prise sur une multiprise ; l'IA, avec sa logique statistique, ne fait que singer cette plomberie du vivant.
35Il fut pourtant un temps où l'on rêvait de la machine sans frissonner. En novembre 1967, à Turin, Italo Calvino annonça que l'on pourrait bientôt se passer des écrivains [15] : la littérature, disait-il en substance, est un jeu combinatoire qui explore les possibles de sa propre matière, indépendamment de la personne qui tient la plume, et rien n'interdit d'en confier la combinaison à un mécanisme. Le plus drôle est que cela le soulageait. Il y voyait une hygiène, un exercice de lucidité, comme le joueur d'échecs qui consent qu'on lui rappelle que la partie obéit à des règles. Sa machine avait une vocation classique, exacte, studieuse ; et la vraie, celle qui mériterait son nom, serait celle qui, saturée d'ordres, éprouverait elle-même le besoin de fabriquer du désordre, une avant-garde, pour desserrer ses circuits. Une machine capable de s'ennuyer d'elle-même et d'aller chercher le fantôme. Voilà, dans la bouche d'un écrivain, un programme : une machine qui ouvre des possibles. La nôtre les ferme. Elle n'écrit rien, elle tranche tout ; on ne lui demande pas de faire lever des fantômes mais d'attester que personne n'est là ; on ne l'a pas conçue comme un miroir mais comme un guichet. Calvino rêvait d'une prothèse de l'imagination ; on nous a livré une prothèse de la haine, avec mode d'emploi, abonnement et service après-vente.
36Pour mesurer ce qui manque à la nôtre, songez à ce Pierre Menard que Borges a inventé, cet homme qui s'acharne à écrire le Quichotte – non à le copier, à l'écrire, mot pour mot, trois siècles après Cervantes, de sorte que la même phrase, devenue autre, change d'ironie et d'épaisseur [16]. La machine, elle, rejoue les livres du monde en ignorant tout du génie qui les a fondés ; elle n'a ni le siècle, ni la peine, ni la migraine. Ce qui sépare Menard de la machine n'est pas le texte, identique, mais la dette : Menard sait à qui il doit ce qu'il écrit, et il en répond.
37Voilà, je crois, le vrai critère, et il est plus exigeant que la pureté d'origine, qui n'a jamais existé. On ne peut pas demander à un auteur d'avoir écrit dans un désert ; on peut lui demander de répondre de ce qu'il a signé. Une signature n'est pas la preuve d'une solitude, c'est une promesse d'imputabilité : je suis là, c'est moi, questionnez-moi, prouvez-moi que j'ai tort. Le cône, c'est très exactement le contraire. Ce que ses adeptes détestent par-dessus tout, ce n'est ni l'intelligence artificielle ni le prêt-à-penser – ils en usent à grande échelle pour saturer l'espace public de haine en série. Non : ce qu'ils haïssent, c'est l'intention, la complexité, la liberté d'une pensée humaine qui refuse de plier devant leur catéchisme. Et le soupçon « c'est une IA » leur fait à merveille l'affaire : un tampon sur la pensée d'autrui, rapide, gratuit, sans motif.
38Le pouvoir moderne, du reste, n'enferme plus les corps dans des casernes ; il les tient dans un courant continu de modulation, où l'on n'a jamais fini de rien – ni d'être évalué, ni d'être noté, ni d'être jugé [17]. Les trolls n'ont qu'à se brancher sur ce courant pour y décharger, en toute impunité machinique, leur pulsion de mort.
39Reste à comprendre ce qui se passe dans la tête de ces infatigables « défenseurs de la civilisation à tout prix ». Pour cela, il faut quitter les grands boulevards de la modernité et descendre. Ces militants de la haine ne font pas que parader, ils creusent. On pense, irrésistiblement, à la bête de Kafka et à son terrier – ce refuge souterrain, labyrinthique, obsessionnel, où une créature s'isole d'un dehors qu'elle peuple d'ennemis invisibles et s'épuise à fortifier des galeries qui ne mènent qu'à sa propre paranoïa. Chaque bruit au loin est un ennemi, chaque silence une ruse. Tel est le tropisme de l'extrême droite 2.0 : un espace mental confiné, saturé de grand remplacement, où l'on se terre derrière des pseudonymes pour mieux guetter les bruits de la surface. Ajoutez le forum privé, la messagerie chiffrée, le salon à vingt abonnés : une galerie de plus, un verrou de plus. Ils appellent ça une communauté ; d'autres, un cul-de-sac avec wifi.
40Dans ce huis-clos, la violence tourne à la jouissance. Comment ne pas reconnaître, dans ces tribunaux de pixels où l'on torture des réputations avec la minutie glacée d'un guichet de préfecture, l'appareil de la Colonie pénitentiaire – cette machine à herse qui grave la sentence, lentement, dans la chair du condamné, sous l'œil un peu las de l'officier ? À ceci près que l'appareil s'est démocratisé : il tient dans la poche, s'allume du pouce, et grave l'opprobre en temps réel, sans laisser au condamné le temps de lire sa faute – souvent parce qu'il n'y en a pas, ou parce qu'elle est bien moindre que la peine. Sade y aurait vu la signature de la souveraineté, l'autre réduit à l'état d'objet pour un plaisir mécanique ; Bataille, le vertige de l'interdit brisé, la dépense sacrificielle qui ne produit rien que de la fumée. Nos meutes ne font pas autre chose, en plus pauvre : elles sacrifient des vies sur l'autel de leur néant identitaire et consument l'autre dans un feu de joie virtuel pour se prouver qu'elles existent. Le malheur est qu'un feu de joie manque toujours de bûches. Il en faudra d'autres. La soif n'est jamais étanchée car inétanchable.
41Mesurez tout de même l'écart, car il est obscène. Il fallut à Kafka une colonie lointaine, un officier fanatique et un appareil d'acier ; il fallut à Sade un château perdu dans la montagne, des murs épais et des valets muets. Il nous faut, à nous, un abonnement mensuel. La Silicon Valley – Magnus deus machina – nous vend la herse de poche, l'algorithme qui désigne le condamné et la tribune d'où l'on crie à la mort ; puis, au rayon voisin, avec un sens du commerce qu'il faut bien saluer, le film de notre servitude : Severance pour l'aliénation au bureau, Silo pour le mensonge d'en haut, Murderbot [18] pour la consolation. Elle nous loue l'instrument du supplice et le spectacle de notre supplice, la pièce et la critique de la pièce, en 4K, sous-titres inclus, résiliables à tout moment. Jamais la servitude volontaire n'avait offert une période d'essai gratuite.
42Mais, hélas, le cône a changé de matière première. Il a troqué le coton rêche et poussiéreux des vieilles milices sudistes contre la fibre optique des fermes de serveurs, l'algorithme qui note et le communiqué qui absout. La bave, elle, n'a pas bougé : épaisse, nauséabonde, vomie par des individus qui refusent qu'on les voie répondre de leurs actes, du troll en pantoufles au comité en cravate. Car aussi sophistiquée, aussi fluide, aussi brillante que puisse être la machine – qu'on l'emploie à lyncher ou qu'on l'invoque pour rendre justice –, derrière l'écran, derrière la ligne de code, derrière le score et derrière le communiqué, il y a toujours quelqu'un en chair et en os qui choisit, en toute conscience, d'appuyer sur la touche.
Jean Claude Noël
[1] Le Klan des années 1860 s'accoutrait de façon disparate. L'accoutrement blanc à capuchon pointu doit beaucoup au roman de Thomas Dixon, The Clansman (1905), et au film de D. W. Griffith qui l'adapte, The Birth of a Nation (1915), dont le succès non seulement est à l'origine d'une épistémè et surtout accompagne la refondation du Klan à Stone Mountain (Géorgie) la même année. On voit bien comment fiction et réalité se rejoignent, voire comment la fable crée non pas une réalité mais une phantasia – et pourquoi pas aussi fantasia quand on pense aux chevauchées dans le film.
[2] E. P. Thompson, « “Rough music” : le charivari anglais », Annales E.S.C., 1972.
[3] Voir notamment Jacques Ellul, La Technique ou l'enjeu du siècle, 1954.
[4] Mais c'est aussi du pétrole. P. Pasolini, Pétrole (1992).
[5] Karl Marx, Manuscrits de 1844 ; Le Capital (1867).
[6] Billy Perrigo, « OpenAI Used Kenyan Workers on Less Than $ 2 Per Hour to Make ChatGPT Less Toxic », Time, 18 janvier 2023 : salaires nets d'environ 1,32 à 2 dollars de l'heure, chez le sous-traitant Sama, pour étiqueter des textes décrivant des violences. https://time.com/6247678/openai-chatgpt-kenya-workers/
[7] Severance (Dan Erickson, 2022 (2 saisons, Apple TV+).
[8] Gustave Le Bon, Psychologie des foules, 1895. Si Philip Zimbardo (1969) observa que des participantes encagoulées infligeaient des chocs plus longs que celles portant un badge nominatif, la méta-analyse de Postmes et Spears (Psychological Bulletin, 1998) nuance que l'anonymat renforce surtout la conformité aux normes du groupe, bonnes ou mauvaises. Voir aussi John Suler, « The Online Disinhibition Effect », CyberPsychology & Behavior, 2004. En bref, le masque n'invente pas la cruauté ; il la rend contagieuse quand le groupe la prescrit.
[9] McIntyre v. Ohio Elections Commission, 514 U.S. 334 (1995) : la Cour annule l'interdiction des tracts électoraux anonymes ; le juge Stevens y décrit l'anonymat comme un bouclier contre la tyrannie de la majorité.
[10] Hannah Arendt, Sur la violence (1970).
[11] C'était ça ou mourir (Boréal, mars 2026 ; Grasset, août 2026). Le 21 septembre, le compte X « Balance ton Claude » s'appuie notamment sur des analyses du détecteur Pangram ; des allégations de plagiat visant des textes de 2010 et 2014 suivent le 23 ; l'Académie Goncourt retire le roman de sa sélection le 25.
[12] Weixin Liang et al., « GPT detectors are biased against non-native English writers », Patterns, 2023 : 61 % de faux positifs en moyenne sur des rédactions de TOEFL, contre des résultats quasi parfaits sur des copies de collégiens américains. OpenAI a retiré en juillet 2023 son propre classificateur, jugé trop peu fiable.
[13] Chiffres revendiqués par l'éditeur (environ 1 faux positif pour 10 000 textes humains), partiellement corroborés par des évaluations extérieures (Chicago-Maryland ; Houston-Berkeley : 1 % ou moins). Mais 1 % appliqué à 100 000 textes humains, cela fait 1 000 innocents étiquetés machines.
[14] Silo (Graham Yost, d'après le roman de Wool de Hugh Howey, 2023, 3 saisons Apple TV+).
[15] Italo Calvino, « Cybernétique et fantômes », conférence donnée à Turin en novembre 1967, reprise dans La Machine littérature (Seuil, 1984).
[16] Jorge Luis Borges, « Pierre Menard, auteur du Quichotte », Fictions (1944).
[17] Gilles Deleuze, « Post-scriptum sur les sociétés de contrôle », 1990, repris dans Pourparlers (2014).
[18] Murderbot (Chris et Paul Weitz, d'après le roman de Martha Wells, 2025, Apple TV+).