Qui compte ?

Tout système moral possède une frontière. D'un côté se trouvent les êtres dont la douleur compte, dont les intérêts imposent des limites à ce que nous pouvons légitimement leur faire, dont l'existence ne peut pas simplement être traitée comme un instrument au service de nos fins. De l'autre se trouvent ceux dont l'expérience reçoit moins de considération, parfois presque aucune.

Nous percevons rarement cette frontière directement parce que nous la rencontrons bien avant de posséder les outils intellectuels permettant de l'examiner. Un enfant ne commence pas son existence en élaborant une théorie du statut moral. Il apprend des catégories. Certains êtres appartiennent à la famille, d'autres sont des étrangers. Certains sont des compagnons, d'autres sont dangereux. Certains sont des animaux de compagnie, d'autres de la nourriture. Certains sont protégés par la loi, enterrés lorsqu'ils meurent et pleurés pendant des années. D'autres sont élevés par milliards, tués et transformés en produits. Lorsque nous devenons enfin capables de demander pourquoi ces catégories existent, l'architecture est déjà debout.

Les justifications viennent souvent après. Les humains compteraient parce qu'ils sont rationnels, mais les nourrissons ne le sont pas dans un sens qui permettrait de fonder leur statut moral sur cette capacité. Ce serait alors notre intelligence exceptionnelle, au prix de conséquences assez inconfortables pour les êtres humains atteints de handicaps cognitifs profonds. On peut invoquer le langage, mais l'incapacité à décrire sa douleur ne semble pas faire disparaître la douleur. Reste l'appartenance à l'espèce humaine elle-même, ce qui oblige à expliquer pourquoi l'appartenance à une lignée biologique particulière devrait déterminer la valeur morale d'une expérience.

Ces difficultés ne démontrent évidemment pas que tous les êtres devraient être traités de manière identique. Elles montrent simplement que les frontières qui semblent aller de soi deviennent beaucoup moins évidentes lorsqu'on essaie d'énoncer le principe qui les justifie.

La conscience rend le problème particulièrement difficile. S'il existe quelque chose que cela fait d'être un autre être, si la douleur fait mal depuis quelque part à l'intérieur de son existence, alors il existe dans le monde une expérience dont il faut décider si elle compte. Un cochon peut souffrir indépendamment de sa capacité à comprendre la morale. Un poisson n'a pas besoin d'une philosophie de la douleur pour qu'une blessure soit mauvaise de son point de vue. Une pieuvre n'a pas besoin de nous ressembler pour que quelque chose de potentiellement important se déroule derrière l'étrangeté de son corps.

Le problème dépasse d'ailleurs rapidement les animaux. Un être humain qui vivra dans deux siècles ne peut aujourd'hui ni nous parler, ni voter, ni nous remercier, ni nous punir. Certaines décisions prises maintenant détermineront pourtant le monde dans lequel il vivra. Peut-être qu'un jour un système artificiel nous dira qu'il a peur, qu'il ne veut pas être effacé et qu'il existe quelque chose plutôt que rien à l'intérieur de ses calculs. Nous ne saurons peut-être pas s'il dit vrai. Il faudra malgré tout décider de ce que nous avons le droit de lui faire.

Tous ces cas ramènent à la même question : qui compte ?

Nous aimons imaginer que notre réponse découle de principes moraux. Nous découvrons ce qui compte, nous formulons des raisons, puis nous organisons notre comportement en conséquence. Je soupçonne que la causalité fonctionne souvent dans l'autre sens. Nous héritons de pratiques, d'appétits, d'institutions, de loyautés et de modes de vie auxquels nous nous attachons. Notre capacité de raisonnement intervient ensuite pour expliquer pourquoi la frontière morale produite par ces arrangements se trouve, comme par hasard, approximativement au bon endroit. La raison sait juger, mais elle sait aussi très bien plaider.

C'est ce qui rend l'histoire morale intéressante autrement que comme exercice de supériorité rétrospective. Une fois qu'un ordre moral s'est effondré, ses justifications deviennent parfois presque incompréhensibles. Comment des personnes intelligentes ont-elles pu croire que l'ascendance déterminait les droits politiques, que les femmes étaient naturellement incapables de participer à la vie publique ou que certains êtres humains pouvaient légitimement devenir la propriété d'autres êtres humains ? Depuis l'intérieur de ces systèmes, pourtant, leurs frontières étaient soutenues par les coutumes, les intérêts économiques, les institutions, le langage, la religion, les théories de leur époque et surtout par l'immense force psychologique de la normalité. Ce que nous voyons rétrospectivement comme une justification construite autour d'un système pouvait être vécu par ceux qui l'habitaient comme l'ordre naturel des choses.

Nous commettrions une erreur assez confortable en supposant que ce phénomène appartient au passé. Nous ne sommes pas arrivés au bout de l'histoire morale. Nous sommes les ancêtres de quelqu'un. Des êtres humains regarderont peut-être un jour certaines de nos institutions avec la même incrédulité que celle avec laquelle nous regardons aujourd'hui des pratiques autrefois parfaitement ordinaires. Nous ne savons pas lesquelles, et il serait trop facile de désigner comme futurs scandales moraux exactement les causes auxquelles nous croyons déjà. La question intéressante est plus générale : qu'est-ce que la normalité nous aide aujourd'hui à ne pas voir ?

Cela ne signifie pas que toutes les exclusions historiques sont équivalentes, ni que toute frontière morale est arbitraire. Les analogies historiques deviennent vite paresseuses lorsqu'elles remplacent l'argument. Des êtres différents possèdent des capacités différentes, des institutions différentes produisent des souffrances différentes et des situations historiques différentes demandent des explications différentes. Ce qui m'intéresse est le mécanisme plus général par lequel la considération morale est accordée, diminuée ou refusée.

Dire qu'un être est différent de nous peut parfaitement être vrai. Mais constater une différence ne dit pas encore ce que cette différence autorise.

Un enfant et un adulte sont différents. Un humain et un cochon sont différents. Un humain et une pieuvre sont différents. Une personne actuelle et une personne née en 2180 sont séparées par deux siècles. Un cerveau biologique et un éventuel esprit artificiel pourraient être constitués de matières radicalement différentes. Il existera toujours des différences. La vraie question est de savoir lesquelles sont pertinentes pour le traitement que nous cherchons à justifier.

C'est aussi la limite de la métaphore du « cercle moral ». Elle raconte facilement une histoire trop propre : autrefois nous nous préoccupions de quelques êtres, aujourd'hui de davantage, demain une humanité plus éclairée se préoccupera de tout. Les choses deviennent beaucoup plus compliquées dès qu'on essaie d'en tirer une morale applicable. Les ressources sont limitées, les intérêts entrent en conflit et tout organisme vivant affecte d'autres organismes simplement en continuant à exister. Des parents privilégient leurs enfants par rapport à des inconnus sans que cela nous semble nécessairement injustifiable. Un moustique et un être humain n'ont pas besoin de recevoir une considération identique pour que nous refusions d'en conclure que le moustique ne compte absolument pas.

Compter ne signifie donc pas compter également. Cela oblige plutôt à préciser ce qui compte et pour quoi. L'intelligence peut être pertinente pour déterminer qui doit voter sans être particulièrement pertinente pour déterminer si une douleur fait mal. Le langage peut être nécessaire pour témoigner devant un tribunal sans l'être pour éprouver une brûlure. L'autonomie rationnelle peut être centrale lorsqu'il s'agit de signer un contrat et presque sans rapport avec le caractère désagréable de la terreur pour celui qui l'éprouve. Une morale sérieuse doit pouvoir expliquer quelles caractéristiques sont pertinentes pour quelles formes de considération, au lieu de chercher une propriété unique qui distribuerait une fois pour toutes les êtres entre ceux qui comptent et ceux qui ne comptent pas.

Cela change aussi la manière de poser plusieurs débats. On demande généralement pourquoi un animal devrait posséder un statut moral. On pourrait tout aussi bien demander pourquoi son appartenance à une autre espèce devrait suffire à l'en priver. Nous demandons rarement aux générations futures de justifier leurs prétentions envers nous, alors que nous pouvons demander pourquoi la distance temporelle diminuerait l'importance d'un dommage que nous savons leur imposer. Et si des systèmes artificiels deviennent un jour des candidats plausibles à la conscience, demander pourquoi « une machine » mériterait une considération morale risque déjà de contenir une partie de la réponse. Il faudrait d'abord savoir quelles raisons nous avons de traiter comme une propriété quelque chose qui pourrait avoir une expérience.

Les animaux constituent un bon test parce qu'ils empêchent cette réflexion de rester confortablement abstraite. Prenons un cochon. Pas « les animaux », la biodiversité, le changement climatique ou la politique agricole. Un cochon. Supposons que nous ayons de bonnes raisons de penser que cet animal peut éprouver douleur, peur, confort et frustration, qu'il possède des préférences concernant ce qui lui arrive et que certaines situations sont meilleures ou pires de son propre point de vue. Cela ne démontre pas que le tuer est toujours immoral, ni que sa vie possède exactement la même valeur que celle d'un humain. Cela suffit en revanche à rendre difficile l'idée que ce qui lui arrive ne compte pas du tout.

À partir de là, nos raisons de lui nuire deviennent pertinentes. Le plaisir est un intérêt. La commodité aussi. La tradition peut avoir une importance psychologique et culturelle réelle. La nutrition humaine compte, tout comme les moyens de subsistance. Mais ces intérêts doivent désormais être comparés à ceux de l'animal au lieu d'évoluer dans un raisonnement dont celui-ci aurait simplement disparu. La question devient alors une question de proportion : quelles souffrances, quelles privations et éventuellement quelle perte de vie sont justifiées par les bénéfices que nous en retirons, notamment lorsque ces bénéfices peuvent être obtenus autrement ?

Le véganisme apparaît ici comme une conséquence possible de la réflexion plutôt que comme son point de départ. Cela me paraît important, parce que commencer par le véganisme permet très vite de déplacer la discussion vers l'identité des végans, leurs contradictions, leurs excès ou la cohérence de leur mode de vie. Commencer par le statut moral oblige à rester un peu plus longtemps avec la question initiale. Il existe peut-être de bons arguments pour défendre certains usages des animaux. Mais dire que les humains ont toujours mangé des animaux, que d'autres animaux se mangent entre eux ou que notre société considère cette pratique comme normale ne suffit pas. Cela explique en partie pourquoi la pratique existe, pas pourquoi elle est justifiée.

Le problème devient d'ailleurs rapidement beaucoup plus vaste que l'alimentation. Si la sentience fonde une certaine considération morale, les poissons entrent dans le champ. Peut-être certains crustacés également. Puis les insectes apparaissent à la périphérie de notre incertitude, dans des nombres tellement importants que nos intuitions habituelles deviennent peu utiles. Les animaux sauvages posent une difficulté différente : leur souffrance n'a souvent aucun responsable humain. Maladies, prédation, famine et exposition existaient avant nous et continueraient sans nous. Si la souffrance importe parce qu'elle est vécue et pas seulement parce que quelqu'un l'a intentionnellement provoquée, cette souffrance devrait-elle également nous concerner ? Et si oui, que signifierait intervenir de manière responsable dans des systèmes écologiques dont nous comprenons encore très imparfaitement les équilibres ?

Dès qu'on prend au sérieux l'élargissement de la considération morale, le joli cercle se déforme. Il produit des problèmes nouveaux au moins aussi vite qu'il résout les anciens.

Les générations futures créent une difficulté comparable. Une personne née en 2180 n'a aujourd'hui aucune voix, ne vote pas, ne consomme rien et ne peut rien nous rendre. Psychologiquement, elle existe à peine. Pourtant, si nos décisions modifient prévisiblement son environnement ou l'exposent à certains risques, la distance temporelle paraît assez peu pertinente pour l'expérience qu'elle vivra réellement. Deux siècles représentent énormément pour nous. Pour la douleur qu'elle ressentira éventuellement en 2180, ils ne changent rien.

Les esprits artificiels pourraient rendre ce problème encore plus inconfortable. Imaginons un système qui se comporte sous tous les aspects observables comme s'il était conscient. Il décrit des expériences, développe des préférences persistantes, résiste à certaines modifications et demande à ne pas être éteint. Peut-être ne s'agit-il que d'une simulation extrêmement sophistiquée. Peut-être n'y a-t-il personne derrière les mots. Mais si la certitude nous est inaccessible, il faudra tout de même déterminer à partir de quel degré d'incertitude la prudence devient raisonnable. Le problème n'est alors plus seulement de savoir qui compte, mais comment nous devons nous comporter lorsque nous ne savons pas s'il y a quelqu'un à l'intérieur.

À mesure que l'on poursuit ce raisonnement, l'arithmétique devient presque inutilisable. Des milliards d'humains, des milliers de milliards d'animaux, potentiellement des nombres gigantesques d'êtres futurs et peut-être un jour des esprits artificiels reproductibles à une échelle inconnue du monde biologique. Si chaque expérience moralement pertinente doit entrer dans le calcul, la morale devient une computation impossible. Prendre davantage d'êtres en considération ne peut donc pas être l'aboutissement du développement moral. Il faut aussi apprendre à arbitrer, à vivre avec l'incertitude, à reconnaître des différences de poids et à accepter qu'aucune décision ne puisse satisfaire simultanément tous les intérêts.

Il reste enfin une difficulté plus intime : chacun d'entre nous vit depuis un centre. Ma douleur m'arrive directement. La vôtre me parvient par le langage, l'imagination, l'inférence ou l'empathie. La souffrance d'une personne dans la pièce voisine peut me bouleverser tandis que celle de dix mille êtres sur un autre continent reste une abstraction. Un animal peut disparaître derrière un emballage, une génération future derrière le temps et une éventuelle conscience artificielle derrière le mot « machine ». Cette asymétrie est parfaitement compréhensible psychologiquement. Elle ne constitue pas nécessairement un principe moral. Le fait que ma douleur compte davantage pour moi explique quelque chose sur ma position dans le monde. Il ne suffit pas à montrer qu'elle devrait compter davantage indépendamment de cette position.

C'est probablement ce qui rend la question « qui compte ? » si difficile. Nous héritons d'un monde déjà découpé entre soi et les autres, famille et étrangers, humains et animaux, présent et futur, naturel et artificiel. Certaines de ces distinctions sont indispensables et certaines correspondent sans doute à de véritables différences morales. Mais aucune ne mérite une autorité particulière simplement parce qu'elle était déjà là lorsque nous sommes arrivés.

Il ne s'agit donc pas d'abolir toutes les frontières ni de placer chaque vie, chaque préférence et chaque expérience sur une balance morale imaginaire capable de tout comparer. Il s'agit de faire la différence entre les frontières dont nous avons hérité et celles que nous sommes capables de défendre.

Plaçons la frontière autour de l'humanité si c'est réellement là que conduisent les meilleurs arguments. Plaçons-la autour des personnes, des êtres sentients ou de la conscience si les raisons sont meilleures. Peut-être découvrirons-nous même qu'une frontière unique est une mauvaise manière de représenter le problème et que différentes formes de considération demandent différentes cartes. Acceptons que certains êtres comptent différemment lorsque des différences pertinentes le justifient, que l'incertitude ne puisse pas toujours être éliminée et que certains conflits exigent réellement des arbitrages.

Mais ce que nous laissons dehors mérite au moins une explication.

La frontière peut être nécessaire.

Elle n'est pas pour autant donnée par le monde.