Les extraterrestres auront-ils une morale ? Réalisme moral – morale #7

Le jour où les premiers extraterrestres débarqueront sur Terre, pensez-vous qu’on pourra discuter de morale avec eux ? Quelles sont les chances pour qu’ils comprennent ce que ça veut dire ? Quelques éléments de réponse à cette question qui rejoint la question du réalisme moral en philosophie.

Pour ceux qui préférent la lecture, transcription de la vidéo :

Quand vous dites que tuer c’est mal, pensez-vous que ce jugement ne représente que votre
avis sur la question, ou qu’il soit objectivement vrai de dire que tuer, c’est mal ? Si une
personne dit que « tuer c’est mal », et qu’une autre personne dit que « tuer c’est bien », est-ce
que ça a du sens de dire que l’une des deux se trompe ? Est-ce que l’affirmation « tuer c’est
mal » est plutôt similaire à l’affirmation « les épinards c’est pas bon », c’est à dire similaire à un
jugement subjectif qui n’est ni vrai ni faux, ou plutôt similaire à l’affirmation « les épinards sont
une plante », qui est objectivement vraie ?

Pensez-vous qu’il existe des états de l’univers intrinsèquement meilleurs que d’autres ?
Imaginez un énorme livre qui contiendrait toutes les lois de l’univers, la relativité générale, la
théorie de l’évolution, les principes de la thermodynamique, etc… Est-ce que vous pensez que
dans ce livre se trouveraient aussi des principes moraux, que la science finira par découvrir
? Et pensez-vous que même si aucun humain n’existait dans l’univers, ces principes moraux
resteraient vrais ?

Voilà quelques-unes des questions auxquelles essaient de répondre les chercheurs qui bossent
sur ce qu’on appelle, la question du réalisme moral.

Je vais pas faire une vidéo qui récapitule tous les débats dans ce champ philosophique. Je
vais juste faire une vidéo qui tire les conséquences des choses qu’on a vues dans les épisodes
précédents, une espèce de vision biologique du réalisme moral, sans prétention que cet avis
soit celui de tous les biologistes qui étudient le sujet, c’est avant tout mon avis. Vous n’avez
pas besoin d’adhérer à ma vision de la morale comme un algorithme de remboursement de
coûts d’opportunités pour suivre cette vidéo, mais le visionnage des vidéos précédentes et en
particulier de la numéro 5 est quand même fortement recommandé. C’est parti !

Il semblerait donc que, à première vue, la plupart des gens soient des réalistes moraux, c’est
à dire qu’ils pensent que les jugements moraux font référence à des faits, qu’ils peuvent être
objectivement vrai ou faux. Et on est intuitivement portés vers le réalisme moral entre autres
parce qu’on sent bien que ce n’est pas la même chose de dire que les épinards c’est bon, que de
dire que laisser un enfant se noyer c’est bien. Si quelqu’un me dit que les épinards c’est bon,
alors que moi je trouve ça dégueulasse, je vais dire, ok, pourquoi pas, c’est ton avis, chacun
ses goûts, ça n’est ni vrai ni faux. Mais si quelqu’un me dit que c’est ok de laisser se noyer
un enfant, je vais le rejeter fortement et très difficilement envisager qu’il puisse avoir raison.

On en revient à cette spécificité de la morale qu’on avait identifiée dès le premier épisode de la
série, qui est que la morale semble exister en-dehors de nous, qu’elle ne dépende pas de nous,
qu’elle semble être plus qu’un avis.

Mais d’un autre côté, quand on y réfléchit un peu, le réalisme moral est bizarre. Cette
affirmation qu’il puisse y avoir des faits moraux ou des lois morales qui puissent être découvertes
par la science est bizarre, et se heurte en particulier à la guillotine de David Hume. David a fait
remarquer qu’il n’est logiquement pas possible d’inférer un « doit » à partir d’un « est ». La seule
chose que nous apprend la science, c’est ce qui est dans le monde. La seule chose à laquelle
nous avons accès, nous autres pauvres humains, c’est ce qui est dans le monde. On voit des
choses qui sont autour de nous. On voit que, tiens, un enfant est en train de jouer au bord de
l’eau. On voit que tiens, cet enfant se penche au-dessus de l’eau. On voit que cet enfant est
maintenant tombé dans l’eau. On voit que cet enfant est maintenant en train de se noyer. Et
là, d’un seul coup, on pense qu’il *faut* sauver cet enfant. Mais comment a-t-on fait le saut de
ce qui est à ce qui doit être ? Comment est-on passé de cette série de descriptions du monde,
de ce qui est, à une injonction sur ce qu’il faut faire ? On ne sait pas, et d’ailleurs on ne peut
pas faire ce saut sans avoir recours à d’autres prémisses morales, c’est là tout l’argument de
Hume.

Alors comment faire pour donner du sens à ce schmilblick ? Hé bien en appelant la théorie
de l’évolution à la rescousse, comme d’habitude. Ce qui nous fait passer de ce qui est à ce qui
doit être, c’est l’évolution qui a façonné nos cerveaux pour ressentir certaines émotions face à
certaines situations.

Faisons un petit détour par nos sens perceptifs. Imaginez la sensation de couleur rouge,
la sensation que vous ressentez dans votre cerveau quand vous voyez la couleur rouge. Cette
sensation de couleur rouge n’existe pas objectivement dans l’univers, en tout cas elle n’existe
pas en-dehors de nos cerveaux. Mais il y a une chose qui existe objectivement dans l’univers,
c’est la longueur d’onde de la couleur rouge. Et une fois traitée par nos cerveaux, la longueur
d’onde du rouge se transforme en sensation de couleur rouge.

Ou prenons encore l’exemple du goût. Les aliments objectivement bons dans l’univers
n’existent pas. Vous ne trouverez jamais dans le grand livre imaginaire qui regroupe toutes
les lois de l’univers une liste d’aliments qui sont objectivement bons, en tous temps et en tous
lieux, pour tous les être vivants qui auraient goûté de cet aliment. Par contre, il existe dans
l’univers des aliments objectivement riches en énergie, ou qui possèdent certaines propriétés
objectivement utiles pour certains êtres vivants. Et notre cerveau est façonné de telle sorte à
repérer dans l’univers ces aliments, et sa façon de nous indiquer qu’on est en présence de tels
aliments c’est de nous procurer du plaisir quand on les goûte.

Hé bien c’est pareil pour la morale. J’ai argumenté dans la vidéo 5 que notre cerveau a été
façonné pour repérer certaines situations où des coûts d’opportunités ne sont pas remboursés,
et que le résultat de ce façonnage s’appelle le sens moral. Si je ne vous ai pas convaincu vous
pouvez remplacer cette définition de la morale par une autre définition qui a vos faveurs, ça
n’a pas beaucoup d’importance, mais pour la suite de cette vidéo je vais faire comme si j’avais
raison et que la morale était réellement une affaire de coûts d’opportunités. Hé bien on peut
remarquer que ces situations où des coûts d’opportunités ne sont pas remboursés sont des états
objectifs de l’univers. Ce sont des états très durs à mesurer, parce que les coûts d’opportunités
sont très durs à mesurer, mais en théorie, on devrait être capable de dire, tiens, tel être vivant avait telle opportunité au départ, et en choisissant cette option il a reçu tel bénéfice, donc
finalement il a été, ou n’a pas été, remboursé de ses coûts d’opportunité. On est capable,
objectivement, par un calcul, de dire si un organisme a subi des coûts d’opportunité. Et même
si on supprimait l’humanité dans un claquement de doigts, même si plus personne dans l’univers
n’était capable de ressentir des émotions morales, il resterait dans l’univers des organismes qui
payent effectivement des coûts d’opportunité et d’autres qui n’en payent pas ; bref, il resterait
de la morale dans l’univers.

Ce qui est l’occasion de ressortir ma distinction entre motivations ultimes et proximales, que
je vous ai déjà rabachée et présentée comme très importante. Si vous demandez à un biologiste,
ou tout du moins à un biologiste qui pense à peu près comme moi, si la morale existe de façon
objective dans l’univers, il va vous répondre que ça dépend de ce dont vous parlez quand vous
utilisez le mot morale. Si vous parlez de la sensation de morale que l’on ressent dans notre
tête, alors la réponse est probablement non. Si vous supprimez l’humanité, alors cette sensation
disparaît de l’univers. Il est possible aussi que cette sensation soit subjective dans le sens où
deux être humains peuvent ne pas ressentir exactement la même chose. Mais si vous parlez des
stimuli que l’algorithme moral qui tourne dans notre tête a évolué pour repérer, alors ces stimuli
persistent, que l’humanité soit présente ou non, tout comme la longueur d’onde du rouge ne
disparaît pas de l’univers si on supprime tous les organismes capables de voir le rouge. C’est
dans ce sens qu’un biologiste pourrait dire que la morale existe de façon objective dans l’univers
et que le réalisme moral n’est pas une position complètement farfelue.

Ce qui nous amène à la question des extraterrestres qui viennent envahir la Terre. Quelles
sont les chances pour que ces extraterrestres soient des êtres moraux, qu’ils comprennent ce
que c’est que le bien et le mal ? Et bien pour moi, ces chances sont… très élevées. Avec un
pistolet sur la tempe, je parierais sans hésiter qu’un extraterrestre qui débarque demain sur
Terre est un être doué d’un algorithme cognitif qui lui fait voir le monde de façon morale, et d’un
algorithme de calculs de coûts d’opportunité en particulier. Pourquoi ? Parce que si une espèce
extraterrestre débarquait sur Terre, ce serait forcément une espèce extrêmement coopérative.
On ne construit pas des vaisseaux spatiaux et on ne fait pas du voyage intergalactique en
bricolant trois fils de fer tout seul dans son coin, c’est une prouesse qui nécessite une coopération
intense.

Or, une coopération intense entre individus n’est possible que si ces individus sont dotés
d’un algorithme cognitif capable de réguler ces interactions. Comme je vous l’expliquais dans
l’épisode 5, si quand je coopère avec vous vous ne me remboursez pas de mes coûts d’opportunité
et bien je vais arrêter de coopérer avec vous tout simplement. Je n’ai, évolutionnairement
parlant, aucun intérêt à vous aider si vous ne compensez pas les coûts que je paye quand je
vous aide. Et donc au final, si la coopération n’est plus régulée par un sens moral, plus personne
ne coopère, et tout le monde est perdant. Donc si des extraterrestres ont réussi la prouesse de
construire un vaisseau spatial, s’ils ont atteint une niveau de civilisation si avancé, pour moi
ça n’est possible que s’ils sont équipés cognitivement d’un algorithme qui permet de rendre la
coopération mutuellement avantageuse, c’est à dire s’ils sont équipés d’un sens moral. Voilà
donc ma réponse. Pour moi, des extraterrestres qui nous rendraient visite sur Terre seraient
très probablement des êtres moraux.

Peut-être que dans leur tête ils ne ressentiront pas exactement la même chose que nous
humains, peut-être que la sensation que leur procure leur algorithme sera différente. Mais il
n’empêche que leur algorithme réagira aux mêmes choses, aux coûts d’opportunités, parce que
les lois de l’évolution sont les mêmes partout dans l’univers [1], et que le principe de ne pas
payer de coût d’opportunité est un principe qui vaut non seulement sur Terre mais aussi partout
dans l’univers. Tout être vivant qui coopère beaucoup et qui cherche à maximiser le nombre de
copies de ses gènes passés à la génération suivante doit chercher à être remboursé de ses coûts
d’opportunité et à rembourser ceux des autres. Si un extraterrestre ne comprend pas ce que
vous voulez dire par « immoral », par « bien » ou « mal », qu’il a l’impression que vous essayez de
l’embrouiller, essayez de lui expliquer cette histoire de coûts d’opportunités, ça pourrait vous
sortir du pétrin.

Et chose encore plus incroyable, si je devais parier, je dirais qu’il y a plus de chances qu’un
extraterrestre connaisse la sensation de morale que la sensation de couleur rouge. Parce que la
sensation de couleur rouge ça peut dépendre des récepteurs que les extraterrestres ont au fond
de l’oeil. Peut-être que les récepteurs des extraterrestres ne sont pas exactement les mêmes que
ceux des humains, à cause des hasards de l’évolution, ou peut-être que l’environnement dans
lequel ils ont évolué fait que la pression de sélection pour distinguer la couleur rouge n’a pas
été aussi importante que sur Terre. Peut-être que ces extraterrestres voient toutes les mêmes
couleurs que les humains sauf le rouge, ou peut-être qu’ils en voient d’autre, on peut imaginer
plein de découpages différents dans le cas de la perception des ondes lumineuses. Alors que
dans le cas des coûts d’opportunité, il n’y a pas 36 sortes de coûts d’opportunité, un coût
d’opportunité est un coût d’opportunité, sur Terre comme sur Mars, et il y a donc plus de
chances qu’on soit équipés du même module de détection de ces coûts d’opportunité que ces
extraterrestres.

Et ne soyez pas non plus trop rassurés de savoir que si des extraterrestres nous rendaient
visite, ils seraient sûrement équipés d’un sens moral. C’est pas pour ça qu’ils ne décideront
pas quand même d’éradiquer l’humanité en diffusant du Maître Gims en boucle sur des hauts
parleurs géants, car, petit rappel de la vidéo numéro 3, ce n’est pas parce qu’on a un sens moral
qu’on se comporte forcément de façon morale, comme l’espèce humaine nous le rappelle chaque
jour.

Autre question intéressante, est-il possible d’expliquer la morale, non pas à un extraterrestre,
mais à un robot ? Est-il possible de faire comprendre ce qu’est la morale à une intelligence
artificielle ? A priori, à un robot, tout ce qu’on peut lui fournir c’est des informations sur l’état
du monde, et donc on retombe sur la guillotine de Hume, on ne voit pas bien comment un
robot pourrait inférer ce qui doit être à partir de ce qui est uniquement, sans également fournir
au robot des prémisses morales.

Sauf si… on lui fournit aussi l’information que les humains sont des être vivants, qu’ils ont
été façonnés par la sélection naturelle et que leur « but » entre guillemets c’est de maximiser leurs
chances de survie et de reproduction. Quand je dis ça, je ne dis pas que c’est ce qui occupe la
vie mentale des humains 24h/24, je dis que au niveau ultime, c’est le but de tout être vivant
de se reproduire. Et c’est important de savoir ça parce que le concept de coût d’opportunité
n’a de sens que dans une perspective de maximisation de quelque chose. Etre remboursé de ses
coûts d’opportunité est important uniquement s’il est important de maximiser quelque chose,
et en biologie ce que les êtres vivants maximisent, ou ont l’air d’essayer de maximiser pour être
plus précis, c’est ce qu’on appelle la valeur sélective ou la fitness en anglais. Pour qu’un robot
comprenne pourquoi c’est important de sauver un enfant qui se noie, il faut qu’il comprenne
le concept de coût d’opportunité, et pour qu’il comprenne le concept de coût d’opportunité, il
faut qu’il comprenne que les humains sont à la base des tas de molécules qui ont pour but de
maximiser le nombre de copies d’eux-même qu’ils laisseront à la génération suivante.
Et c’est pourquoi au final, même si parler de morale objective dans l’univers ne me gêne pas
car la notion de coûts d’opportunités n’a pas de frontières, il faut quand même rappeler que
cette notion est liée à l’existence d’être vivants, à l’existence de trucs qui veulent maximiser
leurs chances de reproduction. S’il n’y avait que des cailloux dans l’univers, et aucun être
vivant, la notion de morale n’aurait plus aucun sens.

Vidéo terminée, pour une fois on va la garder pas trop longue. Cette série néanmoins n’est
toujours pas terminée, j’ai décidé de vous faire une dernière vidéo pour récapituler tout ce qu’on
a vu depuis le début, et même si je ne vais pas y introduire de nouvelles idées ne manquez pas
cette vidéo, c’est le moment où toutes les pièces du puzzle vont enfin se mettre en place et
où on pourra se rendre compte du chemin parcouru. Et en plus de ça, j’aurai une question
importante à vous poser en fin de vidéo, et vos réponses me seront précieuses. Prenez soin de
vos cerveaux, abonnez-vous, laissez un ptit commentaire ça me motive toujours à continuer, et
à la prochaine.

References

1. Baumard, N. MORALITY IS IN OUR BRAIN, IN OUR GENES, AND EVEN IN THE
STRUCTURE OF THE UNIVERSE 2014.