VIVRE EN

COMPAGNIE

DES ROBOTS

Manon Darrouzes

2022

VIVRE EN

COMPAGNIE

DES ROBOTS

vivre en compagnie des robots remerciements

Je tiens à remercier tout

particulièrement mes directrices

de mémoire Anne Mortal et Laure

Sieffert pour m’avoir orienter,

guider et aider. Je remercie

également le reste de l’équipe

éducative du DSAA pour leurs

conseils avisés. Je remercie aussi,

mes camarades, ma famille ainsi

que Mathilde et Chantal pour

leurs soutiens sans faille et leurs

encouragements. Enfin je remercie

mes parents pour la relecture et les

corrections apportées à mes écrits.

vivre en compagnie des robots

sommaire

1→ LES ENJEUX D’UNE

VIE À DEUX, COMMENT

ÉTABLIR UNE

COHABITATION ?

REMERCIEMENTS INTRODUCTION

① Les robots affectifs,

comment accordons-

nous notre confiance ?

② Jusqu'où peut aller

l’engagement affectif ?

Nos émotions

et les robots

③ Nouvelles espèces

compagnes: quelle

éthique pour la

robotique ?

page 2

page 14 page 22 page 29 page 41

page 7

vivre en compagnie des robots sommaire

2→ LES DANGERS

ET LES TRAVERS

DE LA ROBOTIQUE

AFFECTIVE

3→ L’EFFET MIROIR

D’UNE ROBOTIQUE

HUMANISÉE

① L’effroi, les clichés de

la science-fiction

① Comment notre

relation avec les robots

pourrait redessiner notre

monde ?

② Les dangers réels

de la compagnie des

robots

② Potentiel d’évolution

favorable, la robotique

peut-elle être un moyen

de présenter un futur

optimiste ?

③ Se prémunir des

risques, le design éthique

page 50

page 78

page 53

page 80

page 59

page 93

page 71

CONCLUSION

page 98

vivre en compagnie des robots introduction

« Êtres du futur, post-humains, les visiteurs viennent

découvrir un musée abandonné depuis l’an 2019,

après la disparition du genre humain. . . Salle après

salle, ils découvrent une exposition d’art contempo-

rain numérique et de robotique, dans laquelle les

œuvres ont continué à fonctionner en totale autono-

mie, sans les créateurs ni leur public initial. ». Voici

l’introduction à l’exposition Jusqu’ici tout va bien ? qui

se tenait au Centquatre en 2020. Il m’est nécessaire

d’introduire ce moment précis qui m’a conduit à ce

mémoire. C’était le 15 janvier 2020, ce jour-là j’ai

rencontré des robots. Il ne s’agit pas d’une rencontre

simple où deux entités se croisent et continuent leurs

chemins, ce jour-là la rencontre a été vertigineuse,

les robots ont fait naître en moi le sentiment puis-

sant d’un coup de foudre qui bouleverse tout. À leur

contact j’ai ressenti de l’empathie, de la fascination,

de la peur, de l’émerveillement, de l’amusement, de

la peine. . . Tant de sentiments qu’il ne m’avait jamais

été donné de ressentir sur des dispositifs numé-

riques. Cette fascination pour le bouleversement qu’a

fait naître cette rencontre, a guidé mes recherches et

mon intérêt pour tenter de décrypter ce que serait

notre vie en compagnie des robots.

INTRODUCTION

SEER, Takayuki Todo, 2018

vivre en compagnie des robots

introduction

Le robot est un concept vaste sur lequel il est difficile

de poser une définition cadrée et universelle. Il s’agit

d’un terme facile à définir, mais dont la réelle portée

est souvent difficile à appréhender. La robotique

désigne l’ensemble des techniques mises au point et

exécutées pour fabriquer des robots. Derrière cette

signification se cache des possibilités infinies et un

grand, un très grand éventail de champs d’applica-

tion. La définition sur laquelle je me suis basée pour

orienter mes recherches est celle, qui à mon sens,

définit le mieux ces êtres électroniques au sens ou

je les conçois: dans l’essai En compagnie des robots

paru en 2016 à partir d’une discussion entre Alain

Bensoussan, Kate Darling, Jean-Gabriel Ganascia et

Yannis Constantinidès que cette définition apparaît.

À la question « qu’est-ce qu’un robot ? » Jean Gabriel

Ganascia répond que tout d’abord les robots sont des

agents autonomes. Ce sont des machines qui techni-

quement enchaînent des actions sans que l’homme

ait à intervenir. Il définit cet agent autonome comme

« une entité qui reçoit des sensations ». Ces sensa-

tions sont des capteurs, tels que des caméras ou

encore des micros qui permettent aux robots d’être

en relation avec le monde extérieur. C’est en interpré-

tant les informations venant de ces capteurs qu’ils

doivent être capables d’accomplir des actions. On

attribue cette faculté à réfléchir et à agir à l’intelli-

gence artificielle, les robots choisissent d’eux-mêmes

quelle action exécuter parmi celle à leurs disposi-

tion. Les robots possèdent des « effecteurs », des

attributs leurs permettant d’agir sur le monde. Pour

synthétiser, le robot est un être autonome qui grâce

à des capteurs prend une décision qui lui permet de

passer à l’action et ceci sans intervention humaine.

Il poursuit en expliquant que le robot ne doit pas né-

cessairement être matériel (pas mécanique), il cite

notamment le film Her, mettant en scène un agent

conversationnel intelligent, qui apprend. Dans cet

exemple, il illustre le fait que ce robot n’a pas d’en-

veloppe physique, mais il « existe matériellement

dans le monde physique », pas dans notre manière

vivre en compagnie des robots introduction

à nous de le voir, mais bien dans les serveurs dans

lesquels il est hébergé et qui lui sont propres. En plus

de l’autonomie, le robot doit posséder « une certaine

complexité de comportement » sinon cette définition

pourrait s’adapter à de simples automates. Il y a dans

le robot une certaine forme d’inconstance qui fait

qu’on ne peut pas prévoir totalement sa manière de

prendre une décision, ainsi que son comportement.

Yannis Constantinidès ajoute à cette définition que ce

qui différencie le robot d’un grille-pain, c’est que nous

lui ajoutons une âme. C’est d’ailleurs aujourd’hui tout

l’enjeu de la robotique, « réhumaniser les robots ».

On attribue aux robots des sentiments humains.

Selon lui la plus grande différence est « qu’on ne voit

plus en eux de simples choses, mais des personnes

en devenir ». En effet nous allons même jusqu’à les

nommer et par ce biais les ériger comme des « acteurs

sociaux ». Pour Jean-Gabriel Ganascia c’est le fait que

le robot est un dispositif sociotechnique que nous

considérons comme tel « il n’a de viabilité que vis-à-vis

des hommes qui lui attribuent sa signification », car en

dehors de ça il n’est « qu’un amas de composants élec-

troniques et mécaniques ».

Dans l’extrait de la thèse de Antoine Auton (Modèle

de développement comportemental pour les créatures in-

telligentes dans les interactions contextuelles, sociales

et collectives. ), il nomme les robots comme des créa-

tures artificielles. Par ce changement de regard, il

questionne le rapport que nous entretenons avec

les robots intelligents. L’orientation du terme robot

vers la « créature artificielle » met en lumière que la

conception du robot la plus commune dans l’imagi-

naire collectif est très implantée comme une inven-

tion de l’homme dangereuse et effrayante, à l’image

de la créature de Frankenstein qui se retourne

contre son créateur. Il est impossible d’envisager

le robot sans la science fiction et tous les mythes

qui ont fondé notre imaginaire collectif. Pourtant

les robots de compagnie font déjà partie de notre

quotidien, il me semble donc intéressant de penser

vivre en compagnie des robots

introduction

le robot comme un système à part entière qui pose

des questions d’éthique dans nos comportements

vis-à-vis d’eux. Minsky Marvin disait, en 1986 dans

The Society of Mind , « tout peut être pensé comme

une société dès lors qu’il s’agit d’interconnexions

et d’interactions entre les éléments humains et/ ou

non humains ». Peut-on rapprocher ce point de vue

de celui de Descartes qui envisageait les animaux

comme des automates-animals ? Tandis qu’au-

jourd’hui nous vivons dans une société qui accorde

des droits aux animaux.

Pourquoi laisserions-nous entrer des robots dans

notre quotidien ? Les dispositifs robotique font

déjà partie intégrante du paysage quotidien de

nombreuses personnes. Leurs usages sont liés à

différents besoins: assistance vocale, assistance à

domicile pour les personnes dépendantes, assistan-

ce thérapeutique…Pourtant, les concepteurs de ro-

botique aujourd’hui n’envisagent pas seulement les

robots comme de simples assistants pouvant seule-

ment détecter et comprendre les informations mais

aussi, et surtout, simuler des sentiments humains.

Les robots comportent des enjeux sociaux plus im-

portants que leurs désignation d’assistant pourrait

le sous-entendre. Ils se profilent ainsi comme de

réels compagnons de notre quotidien, c’est d’ailleurs

comme ceci qu’ils sont souvent désignés dans les

écrits traitants d’eux. On parle de robots de compa-

gnie lorsque ces dispositifs sont capables d’interagir

avec l’humain par le biais des sentiments et des émo-

tions. C’est pourquoi on parle de compagnie plus que

d’assistance car, en ajoutant un enjeux d’implication

des émotions on cherche davantage à créer une rela-

tion entre l’humain et la machine. Pourtant le fait de

laisser entrer des entités dans notre quotidien pour

nous apporter de la compagnie, de l’assistance ou

encore de la distraction est assez courant. D’abord

nous pensons forcément aux animaux de compa-

gnie, autrement appelés animaux domestiques.

Ces compagnons présents dans près d’un foyer sur

vivre en compagnie des robots introduction

deux en France sont souvent considérés comme

des membres à part entière des familles. Bien qu’au

départ les relations affectives n’étaient pas l’enjeu

principal des interactions entre hommes et animaux

de compagnies, ils se sont progressivement apprivoi-

sés pour créer une grande affinité mutuelle. L’arrivé

du chien dans les foyers Romains fait un écho im-

médiat à l’arrivée imminente des robots dans notre

quotidien, « À Rome, si le chien était déjà considéré

humainement comme l’animal le plus fidèle, il n’avait

que pour intérêt premier de seconder l’homme au

quotidien dans le cadre des tâches les plus élémen-

taires de la vie (surveillance du bétail, chasse…). »1.

C’est dans un but élémentaire de suppléer l’humain

dans ses tâches quotidiennes que le chien est d’abord

entré dans notre vie. Mais au cours des siècles, nos

relations avec nos animaux de compagnie se sont

peu à peu transformées, leur compagnie occupant

un rôle important de réconfort psychologique. En

d’autres mots c’est ce qu’explique l’historien Éric

Baratay dans une interview pour France Inter paru

en 2020 au sujet des animaux domestiques. En guise

d’exemple il cite la première guerre mondiale « dans

tous les camps, dans les tranchées, des humains

se sont rapprochés de vaches, de chiens, de chats

errants et d’oiseaux pour combler leur solitude et leur

désarroi. »2. Nos relations avec les animaux ont fait

du concept de compagnie le synonyme d’une relation

d’amour forte entre humain et non-humain, car dans

certain cas l’animal prend même la place d’un enfant

au sein du foyer.

1→ BOURQUIN Jimmy, « Histoire des

animaux domest iques : pourquoi nous

ressemblons-nous autant ? », France Inter,

2020

2→ ibid

vivre en compagnie des robots

introduction

La question de vivre en compagnie des

robots renvoie à notre propre origine et

englobe forcément de nombreuses questions

éthiques: A-t-on le droit de donner vie

à des créatures dotées de perception,

d’intelligence et de sensibilité ? Qu’allons

nous créer et allons nous rester maître de

notre création ?

Nous créons des robots pour qu’ils

soient nos serviteurs mais à partir d’un

vivre en compagnie des robots introduction

certain niveau d’intelligence, d’émotions,

et de perceptions ne devrions nous pas en

faire nos égaux et leur donner des droits ?

Comment ces êtres intelligents peuvent-

ils modifier notre manière de voir le monde ?

La création de robots de compagnie

se limite-t-elle seulement au service de

l’homme ? L’expérience troublante que

nous vivons en leur présence pourra-t-elle

nous impacter en tant qu’individu ?

1→LES ENJEUX

D’UNE VIE À

DEUX, COMMENT

ÉTABLIR UNE

COHABITATION?

Engineered Arts, Ameca, 2021

La dimension affective est un réel enjeu de la ro-

botique aujourd’hui. En effet, cet investissement

émotionnel est le point de départ de notre vie en com-

pagnie des robots. C’est sur la base de la confiance

que nous acceptons de laisser entrer les robots dans

notre quotidien. Sans cette sécurité nos craintes les

repoussent de nous. C’est ainsi que la question du

rôle et de la forme du robot entre en jeu, quels sont

les paramètres selon lesquels nous cédons notre

confiance aux robots ?

vivre en compagnie des robots comment accordons-nous notre confiance?

①LES ROBOTS AFFECTIFS,

COMMENT ACCORDONS-

NOUS NOTRE CONFIANCE ?

vivre en compagnie des robots

vivre en compagnie des robots comment accordons-nous notre confiance ?

Serge Tisseron3 dans son livre Le Jour où mon robot m’ai-

mera, paru en 2015 aux éditions Albin Michel, se pose

ainsi la question de savoir si un jour nous pourrons

tomber amoureux de notre robot ou encore préférer

leur compagnie à celle des humains, il est persuadé

que oui. Il assure même que les concepteurs de robot

sont bien conscients de ce scénario et ne cherchent

pas à l’éviter et pour cause: « l’intelligence artificielle

fait peur, l’empathie artificielle sera là pour nous ras-

surer »4. En effet, si le robot était simplement intel-

ligent et dénué de tout semblant de chaleur, alors il

ne serait qu’effrayant. Il nous faut interagir avec eux,

que nous sentions une part de « cœur » en eux: « il est

extrêmement important que nous puissions commu-

niquer avec ces robots comme avec un être humain,

c’est-à-dire en utilisant la voix, le regard et le geste. »5.

Cette description de caractéristiques faite par Serge

Tisseron n’est pas anodine, en effet, l’utilisation de

ces mimiques biens humaines, nous donne l’impres-

sion que le robot peut interagir de façon humaine

avec nous car il comprend ce que nous ressentons.

Il est nécessaire selon le psychanalyste6 « pour qu’un

robot soit totalement accepté, il est indispensable

qu’il parle avec des intonations et des mimiques qui

évoquent de vraies émotions. » Ce sont des para-

mètres essentiels pour que nous puissions vraiment

faire confiance aux robots. Se pose alors la question

de savoir exactement quelles sont les caractéristiques

qui entrent en jeu dans l’abandon de nos craintes

concernant la robotique.

Pourtant, une ressemblance trop fidèle à l’humain

peut détruire la confiance. En effet, pour le chercheur

en Robotique Masahiro Mori7, passer un certain point

de ressemblance, notre sentiment de sécurité s’écrou-

lait. C’est ce que le chercheur définit comme l’« uncanny

valley » dans son livre paru en 1970 « the uncanny valley »,

ce terme peut être traduit par « la vallée de l’étrange »,

« vallée dérangeante » ou encore « la vallée de l’an-

goisse d’étrangetée » (traduction proposée par de Serge

Tisseron dans son livre Le jour ou mon robot m’aimera).

L’explication de ce phénomène est la

suivante : lorsque l’être artificiel est

suffisamment non-humain pour être

immédiatement reconnu comme un robot,

nous avons tendance à en remarquer

quelques aspects humains et à ressentir une

certaine empathie pour la machine. Mais

lorsque le robot a une apparence presque

entièrement humaine cela peut causer de

la confusion, par le biais d’une dissonance

cognitive; chaque aspect non humain du

robot provoque un sentiment d’étrangeté.

Les robots situés dans l’« uncanny valley »

sont inconsciemment considérés comme

des humains qui ne peuvent pas agir

normalement. En somme, lorsque des

robots se trouvent dans l’« uncanny valley »,

c’est que leur apparence tente d’imiter

celle d’un humain mais que des détails non

humains sont trop visibles et nous plongent

dans l’angoisse et le malaise.

comment accordons-nous notre confiance ?

représentation schématique et synthétique du principe de l’« uncanny valley »

4→ TISSERON Serge, Le Jour où mon robot m’aimera, édition Albin Michel, 2015

Psychiatre, docteur en psychologie habilité à diriger des recherches, membre de

l’Académie des technologies. Plus de la moitié de ses contributions (ouvrages, essais,

revues…) portent sur nos relations aux objets technologiques. Il étudie notamment la

façon dont les nouvelles technologies bouleversent notre rapport aux autres, à nous

même, au temps, à l’espace et à la connaissance.

5→ ibid

4→ ibid

6→ ibid

vivre en compagnie des robots

On retrouve aujourd’hui des applications concrètes

de cette théorie, c’est notamment le cas des pro-

thèses de main. Nombre de personnes amputées

choisissent de s’équiper de prothèses robotiques

plutôt que de mains trop réalistes reproduisant les

rides, les veines et les ongles. C’est ce qu’explique

Jean-Louis Vercher, de l’Institut des sciences du mou-

vement, qui étudie la robotique bio-inspirée dans les

prothèses biomimétiques « On s’est rendu compte

qu’une prothèse qui ressemblait à une main de robot

était beaucoup mieux acceptée par les patients et

par leur entourage qu’une main réaliste, car elle était

identifiée clairement comme une prothèse et non

comme une main qui aurait un défaut. »8. C’est pour-

quoi de nombreux chercheurs se dirigent aujourd’hui

vers un design robotique assumé, proposant des pro-

thèses faites de métal pouvant rappeler les cyborg.

Certaines personnes vont jusqu’à revendiquer le ca-

ractère érotique et artistique de ces prothèses robo-

tiques, c’est notamment le cas de Viktoria Modesta,

une artiste amputée qui défnit son travail comme

post-humain et post-handicap.

comment accordons-nous notre confiance?

Viktoria Modesta for Harper’s Bazaar Hong Kong, Karl Lam

8→ BEN Lydia, « Petit détour par la vallée de

l’étrange », CNRS le journal, 2016

vivre en compagnie des robots

Néanmoins, la théorie de l’« uncanny valley » n’abolit

pas toutes les formes de réalismes anthropomor-

phiques. En effet, il existe un autre versant à la vallée

de l’étrange, il s’agit du moment où notre confiance

remonte face à un robot à l’apparence humaine. Cet

inversement favorable de la courbe est permis, no-

tamment, lorsque le degré d’anthropomorphisme

est si élevé que nos craintes semblent s’effacer. C’est

notamment ce qu’essaye de prouver David Hanson,

designer en robotique créant des robots humanoïdes

réalistes qui rétorque la dimension scientifique de

cette théorie. En effet, ce dernier met en œuvre de

nombreux dispositifs technologiques pour rendre

ses robots humanoïdes presque identiques aux

humains. C’est dans un rapport paru au nom de sa

société Hanson Robotics Inc, qu’il énonce le degré

de sophistication de ses robots, tant dans leur ap-

parence, dans les matériaux utilisés et dans les pro-

grammes technologiques exploités. Selon lui, ce sont

tous ces paramètres qui rendraient les robots les

plus acceptables possibles, c’est de cette façon que

le rapport se conclut « Nous pensons que pour que

les robots réalistes soient attrayants pour les gens,

ils doivent atteindre un certain niveau de réactivi-

té sociale intégrée et de raffinement esthétique »9.

Néanmoins même si les points de vues s’affrontent

autour de la théorie du chercheur en robotique

Masahiro Mori, il a été démontré ces dernières

années que la robotique peut prendre une appa-

rence inquiétante lorsque celle-ci se rapproche trop

de l’humain. Lorsque Sofia créée par David Hanson,

le robot intelligent capable d’avoir une discussion et

plus de 62 expressions faciales avait été montré au

grand public, elle avait suscité de nombreuses réac-

tions allant de la fascination à l’inquiétude.

vivre en compagnie des robots comment accordons-nous notre confiance?

comment accordons-nous notre confiance?

Viktoria Modesta, Louis Banks

9→ HANSON David, OLNEY Andrew,

PRILLIMAN Steve, MATHEWS Eric

, ZIELKE Marge, HAMMONS Derek,

FERNANDEZ Raul, STEPHANOU Harry ,

« Upending the Uncanny Valley », 2005

vivre en compagnie des robots nos émotions et les robots

Le robot Sofia de David Hanson ,Reuters

vivre en compagnie des robots

Hiroshi Ishiguro, un roboticien s’étant donné la

mission de rendre les interactions entre robots et

humains les plus naturelles possibles10, est persua-

dé que la machine doit ressembler le plus possible

à l’humain. Son objectif est de créer un robot « qui

ressemble, bouge, et parle réellement comme un

humain ». Pour l’atteindre il a classé 5 degrés de

proximité successives entre un robot et son inter-

locuteur: son apparence, ses mouvements, ses sys-

tèmes de perceptions, ses interactions complexes,

ainsi que sa faculté à gérer un environnement social

et d’en tirer des enseignements. D’autre part pour

Serge Tisseron l’apparence ne semble pas être le

seul paramètre faisant que nous accordons notre

confiance aux robots. Dans son livre Le jour où mon

robot m’aimera, il avance que c’est la cohérence des

réactions des robots qui nous rassure. Il cite comme

exemple certaines personnes atteintes de formes de

psychose qui dans leurs comportements peuvent

nous dérouter en ayant par exemple une remarque

« triste avec une mimique étonnée tout en affichant

une attitude empreinte d’abattement »11. Ici le point

de rupture pour nous est que toutes ces réactions

combinées renvoient à des « états mentaux incom-

patibles ». C’est exactement ce qu’il peut se passer

dans le cadre où un robot aurait des comportements

non-verbaux inadaptés à ce qu’il pourrait dire. Tout

comme M. Mori le citait dans sa théorie de la vallée

de l’étrange, ce schéma est de nouveau illustré avec le

zombie de science fiction. Ce qui dérange dans cette

figure est le fait qu’il ait l’apparence d’un humain

mais « c’est la dissociation qui existe entre leur ap-

parence humaine et le caractère non humain de leur

geste » qui crée une dissonance dérangeante pour

nous: « ce sont des humains discordants ».

comment accordons-nous notre confiance?

Ce que nous cherchons donc pour avoir confiance

en un robot pour S. Tisseron, c’est une forme d’har-

monie dans le comportement d’un robot, un accord

entre ce qu’il dit et ce qu’il exprime par sa posture,

ses gestes et son expression. Néanmoins, la cohé-

rence dans le comportement peut aussi se retrou-

ver dans un robot n’ayant pas de forme humanoïde.

L’exemple donné ici est celui de R2D2, le robot de

la saga Star Wars, un robot n’ayant aucune forme

proche de l’humain. Pourtant nous serions prêt à lui

accorder notre confiance, et pour cause, même s’il

ne communique qu’avec des sons synthétiques « sa

façon d’explorer l’espace nous paraît si proche de la

nôtre, y compris dans ses maladresses et ses hésita-

tions que nous somme prêts à lui faire confiance »12.

Par cet exemple, il nous est aisé de comprendre que

l’apparence d’un robot n’a pas l’obligation de se rap-

procher de celle d’un humain si dans son comporte-

ment nous pouvons y retrouver de l’humanité.

À travers ces nombreux exemples, nous avons pu voir

que nos besoins d’identification et de reconnaissance

semblent être les paramètres les plus importants

pour céder notre confiance aux robots. Nous voulons

créer un rapport affectif avec eux en transposant nos

émotions. Néanmoins, jusqu’où cette relation peut-

elle nous conduire ? Est-elle sans risque ?

vivre en compagnie des robots comment accordons-nous notre confiance?

10→ Et si l’humain devait plutôt ressembler à la machine ?

C’est ce que Hiroshi Ishiguro interroge avec la création de son

jumeaux humanoïde au point de lui-même transformer son

propre visage pour qu’il soit le plus possible similaire à celui

de son double robotique « L’androïde à mon identité. Je dois lui

être identique, sinon je vais perdre mon identité ».

11→ TISSERON Serge, Le Jour où mon robot

m’aimera, édition Albin Michel, 208 pages, 2015

12→ Ibid

vivre en compagnie des robots nos émotions et les robots

Dans son introduction Serge Tisseron13, débute par

l’exemple d’une femme agée à qui on a mis à dispo-

sition « un robot de compagnie perfectionné capable

d’identifier ses interlocuteurs et de dialoguer avec

eux ». Sa première réaction a été de voir en lui un

prince charmant, sans même prendre la mesure

qu’il ne s’agissait que d’un robot de compagnie. Se

sont ses émotions et ses désirs qui ont parlé pour

elle. Avec cet exemple Serge Tisseron questionne la

place que prendra et devra prendre le robot dans un

foyer; « sommes-nous certains qu’il suffise de conce-

voir des machines dans un certain but pour que les

utilisateurs s’y tiennent ? »14. Par cette question le

psychiatre met en exergue le potentiel émotionnel

impliqué dans les relations avec les machines, qui,

malgré le fait qu’il s’agisse d’une machine, peut sortir

de son cadre de conception pour créer de nouveaux

usages et comportements. Se pose alors la ques-

tion de savoir jusqu’où nos émotions pourraient

corrompre nos regards à l’égard de la machine pour

la considérer comme une entité à part entière et

peut-être même tomber amoureux d’elle ? Pourrait-

on concevoir d’entretenir des relations intimes et

sexuelles avec un robot ?

②JUSQU’OÙ PEUT

ALLER L’ENGAGEMENT

AFFECTIF ? NOS ÉMOTIONS

ET LES ROBOTS

13→ Ibid14→ Ibid

vivre en compagnie des robots nos émotions et les robots

Les robots sexuels ou « sexbots se développent »

avec un futur marché estimé à plusieurs milliards

d’euros. Que ce soit au Japon, aux États-Unis ou en

Europe, les entreprises spécialisées dans la créa-

tion de ce genre de robots sont de plus en plus nom-

breuses. Il existe un préjugé extrêmement répandu

dans le fait d’entretenir une relation avec un objet

sexuel à forme humaine; selon lequel ces objets sont

destinés à une minorité d’individus souffrant de

problèmes relationnels. C’est ce qu’explique Agnès

Giard dans son livre Un désir humain, les love doll au

Japon. Même si dans ce livre il s’agit de saisir l’enjeu

des Love Doll au Japon, ce préjugé est applicable aux

relations sexuelles entre sexbot et humains. Elle ex-

plique que dans cette opinion réside l’idée selon la-

quelle les personnes se tournant vers ces poupées

seraient guidées par l’hédonisme « cet hédonisme

est d’ailleurs souvent associé au consumérisme et à

la fuite en avant vers « l’artificialisation de la vie »15.

Pour de nombreuses personnes les sexbot offrent

de considérables avantages, la machine ne peut pas

les trahir, elle restera pour toujours jeune et belle et

enfin elle ne résistera pas.

L’arrivée sur le marché de Roxxxy, une poupée robot

sexuelle, créée par l’entreprise True Companion, avait

commencé à soulever des questions éthiques concer-

nant les comportements immoraux envers les robots.

En effet, c’est en 2017 que l’entreprise provoque une

grande polémique en proposant des nouvelles per-

sonnalités à leur robot sexuel. Dans cette neuvième

version de la poupée robot sexuelle Roxxxy ses per-

sonnalités sont nommées de manière très expli-

cite « Wild Wendy » (« Wendy la sauvage »), « Mature

Martha » (« Martha la mature »), « S&M Susan »

(« Susan la S&M »), « Young Yoko » (« la jeune Yoko »)

et « Frigid Farrah » (« Farrah la frigide »). Frigid Farrah

était présentée comme étant « réservée et timide »,

elle avait été programmée pour réagir et résister

lorsqu’on la touchait « Si vous touchez ses parties

intimes, il est plus que probable qu’elle n’apprécierait

pas vos avances », explique le fabricant. Young Yoko

quant à elle, était dépeint comme étant « si jeune (à

peine 18 ans) » et attendait « que vous lui appreniez

des choses ». Ces deux personnalités annonçaient

donc explicitement que vous pouviez les violer ou

encore avoir des rapports sexuels de nature pédo-

phile. D’autant que le fabricant présentait son robot

comme permettant aux utilisateurs « de réaliser leurs

rêves sexuels les plus privés », « de faire de leurs rêves

une réalité », comparant donc le viol à un « rêve ».

Deux avis se partageaient alors, « Il y a des gens qui

disent qu’il est préférable que des robots soient violés

plutôt que de vraies personnes. D’autres assurent

que cela encourage davantage les violeurs. » comme

l’annonçait Noel Sharkey16, un professeur membre

de la Fondation pour une robotique responsable17.

On peut donc voir dans cet exemple que certaines

personnes font valoir la portée cathartique dans nos

comportements vis-à-vis des robots. En effet, pour les

personnes se positionnant en faveur d’une forme de

défoulement envers les robots, il est préférable que les

individus assouvissent leurs pulsions envers un robot

pour qu’ils n’aient pas à le faire envers des humains.

Mais pour Laura Bates, fondatrice de Everyday

Sexism, banaliser ce genre de comportement dans

le cadre de relations sexuelles avec des robots, en-

courage et entretient la culture du viol. C’est dans

une tribune publiée dans le New York Times intitulée

« The Trouble With Sex Robots » (« Le problème avec

les robots sexuels ») qu’elle rappelle que « le viol n’est

pas un acte ou une passion sexuelle. C’est un crime

violent »18. Pour elle, cet agissement délétère ne serait

qu’un moyen de normaliser les violences sexuelles,

en les rendant plus acceptables puisque non assou-

vies sur des humains mais sur des robots.

C’est dans le podcast « nos robots méritent-ils

des droits ? » publié sur le site internet I am Techno

Curious que Charles Corval, doctorant à Sciences Po

en sciences politiques et en philosophie, annonçait

l’utilité de donner des droits aux robots pour éviter

15→ DEVILLERS Laurence, Les robots

émotionnels: Santé, surveillance, sexualité. . . : et

l’éthique dans tout ça ?, édition L’Observatoire

Eds De, 2019

16→ Noel Sharkey est un informaticien né à

Belfast. Professeur émérite de l’université de

Sheffield, il est surtout connu auprès du public

britannique pour ses apparitions à la télévision

en tant qu’expert en robotique, notamment dans

les émissions Robot Wars et Techno Games

17→ TIMMINS Beth, « New sex robots with

« Frigid » settings allow men to simulate rape »,

The Independent, 2017

vivre en compagnie des robots nos émotions et les robots

de voir nos comportements avec eux se généraliser

aux relations humaines19. Laura Bates elle aussi sou-

ligne aussi ce transfert de comportement « Oui, les

aides sexuelles existent depuis longtemps, mais les

robots sexuels positionnent les femmes comme des

jouets, des objets avec lesquels les hommes peuvent

jouer. [. . . ] Ils reproduisent en fait de vraies femmes,

avec tout, sauf l’autonomie. »20. Elle ouvre le fait qu’il

est aisé de transférer des comportements avec les

robots aux humains. Même s’il s’agit d’une machine,

il est très difficile de garder cette limite d’une relation

simplement entre un homme et un robot. En effet,

l’argument des constructeurs était que les utilisa-

teurs savaient très bien qu’il s’agissait d’une machine

et qu’ils savent faire la distinction entre ce qu’ils font

avec une machine et ce qu’ils ne feraient pas avec

un•e humain•e.

Néanmoins cette limite entre humain et machine s’es-

tompe dès lors que des sentiments entrent en jeu.

C’est ce que démontre l’exemple de Joshua Barbeau,

un informaticien Canadien qui a créé un chatbot en-

traîné avec les données de sa petite amie décédée. Par

sa qualification professionnelle et par le fait qu’il est

le créateur de cet agent conversationnel, il savait très

bien qu’il s’adressait à une machine, il n’était pas dans

l’illusion qu’il s’agissait de sa petite amie. Et pourtant à

force de converser régulièrement avec ce chatbot il a

perdu le contrôle, il ne pouvait empêcher ses émotions

de prendre le dessus « intellectuellement [il savait] que

ce n’était pas réellement Jessica, sauf que vos émo-

tions ne sont pas quelque chose d’intellectuelle »21. Cet

exemple pose un point d’alerte concernant l’implication

émotionnelle forte dans nos relations avec les robots

liée au fait, selon Laurence Devillers professeure d’IA

et d’éthique à l’université Paris-Sorbonne, que les

chatbot ont aujourd’hui trop de personnalité : « Jusqu’à

présent les chatbots avaient un langage réduit, donnant

l’impression qu’ils n’avaient aucune imagination, mais

leurs concepteurs cherchent aujourd’hui à leur donner

un langage beaucoup plus réaliste »22.

Ce réalisme, couplé à une tendance anthropomor-

phique forte, présente de nombreux risques concer-

nant notre libre arbitre. En effet, parmi les dérives

permises par notre engagement émotionnel, il est faci-

lement envisageable que l’on pourrait développer une

addiction à dialoguer avec des chatbots fascinants, et

à être incité à changer d’opinion ou encore acheter des

produits. . . Cet engagement est sans grands risques

dans l’histoire de Joshua Barbeau, pourtant il existe des

cas où l’engagement émotionnel d’un humain vis à vis

de sa machine peut s’avérer dangereux.

C’est notamment le cas des robots démineurs et des

soldats américains. Effectivement, les robots sont pré-

sents dans notre quotidien ménager, mais ils ont un

rôle de plus en plus crucial dans l’armée aussi. Ce sont

de réels compagnons d’armes avec lesquels les soldats

nouent une relation affective forte. Si bien que cer-

tains combattants admettent ressentir de la frustration

mais aussi de la tristesse lorsque leurs fidèles engins

sont détruits. Le récit surement le plus connu est celui

d’un soldat désespéré venu imploré le mécanicien de

réparer « Scooby-Doo »23. Malgré le fait qu’un nouveau

robot démineur lui avait été attribué, le soldat restait in-

consolable après la perte de son compagnon. Pourtant

cet engin ne ressemble en rien à un être vivant, mais

ce sont les épreuves terribles auxquelles sont confron-

tés les soldats avec ces machines qui tissent des liens

affectifs forts entre eux. Serge Tisseron rappelle que

« Les militaires savent très bien que ces robots sont des

outils, mais ils ne peuvent pas s’empêcher de les traiter

parfois comme un animal domestique, voire comme un

autre humain, au risque de provoquer de graves pro-

blèmes sur le champ de bataille »24. Le cas des robots

démineurs est très largement représenté et analysé,

car cet exemple donne à voir un comportement concret

et extrême, dans un cas où le robot ne possède pas de

forme anthropomorphique. Cet exemple est probable-

ment le cas le plus extrême recensé aujourd’hui dans le

cadre de l’implication émotionnelle d’un homme envers

une machine.

19→ Animé par Augustin, Saison 2 - épisode 5 « Nos robots méritent-

ils d’obtenir des droits ? », IAM TECHNOCURIOUS, 2020 avec

Charles Corval : Jeune chercheur en philosophie et théorie politique.

Développe ses connaissances dans le domaine de la phénoménologie, des

nouveaux objets et artefacts techniques (robots, jeux-vidéos, réseaux

sociaux, etc), et de la politique des objets technologiques.

21→ LEGLU Dominique, « Attention, un

chatbot est un robot et pas un être humain »,

Sciences Avenir, 2021

20→ Laura Bates - Op. cit 22→ Ibid

23→ BRENDT Rose, « The Sad Story Of A

Real Life R2-D2 Who Saved Countless Human

Lives And Died », Pedestrian, 2011

24→ TISSERON Serge, Le Jour où mon robot

m’aimera, édition Albin Michel, 2015

vivre en compagnie des robots nos émotions et les robots

Pour autant peut-il exister une portée

bénéfique lorsque la frontière entre

l’homme et la machine s’estompe ?

C’est en tout cas ce que semble promettre

Paro, un robot-phoque utilisé dans les

EHPAD, qui ronronne quand on le caresse

et qui nous regarde quand on lui parle.

C’est « un outil de médiation relationnelle,

de partage et de bien être »

xemple de robot OED, robot démineur avec un soldat

vivre en compagnie des robots nos émotions et les robots

Paro le robot phoque affectif présent en EHPAD dans les bras d’une patiente

vivre en compagnie des robots nos émotions et les robots

Cathy Mignon qui est psychologue dans un EHPAD

se demande si elle ne dupait pas les résidents,

puisque certains n’ayant plus toutes leurs capacités

intellectuelles ne distinguaient pas Paro d’un animal

de compagnie. Mais cette question à très vite était

mise de côté, selon elle, lorsque ses équipes se sont

rendu compte à quel point la présence de Paro était

bénéfique pour les patients. En effet, Paro est un

robot émotionnel d’assistance thérapeutique, selon

ses constructeurs: son ergonomie, son poids et ses

traits apaisants, visent à offrir aux professionnels de

santé un outil simple d’utilisation et de haute tech-

nologie permettant de véhiculer les bénéfices de la

thérapie animalière, en procurant une amélioration

du bien-être et de la qualité de vie des patients dans

un cadre non médicamenteux. Grâce à de nom-

breux capteurs, il peut se blottir contre les patients,

gémir, et réagir à divers stimulus. De nombreux té-

moignages relatent les bienfaits de la compagnie de

ce robot, que ce soit au niveau psychologique, phy-

siologique ou encore sur le plan social. Tout ceci est

notamment dû à son apparence de phoque, celle-ci

n’est en rien un hasard. Pour qu’il soit accepté par la

majorité des patients, les concepteurs ont choisi de

lui donner cet aspect plutôt que celui d’un chien par

exemple, car, rares sont les personnes qui ont déjà pu

rencontrer un phoque, et ne peuvent donc pas, de ce

fait, être déçues par son apparence physique et ses

réactions. Pour autant l’utilisation de ces robots res-

pecte-t-elle la dignité des personnes âgées ? Yannis

Constantinidès dans l’essai En compagnie des robots

parle de ce robot comme « un objet transitionnel. .

vers la mort »25 Là où le doudou par exemple est pour

les enfants un moyen de se détacher de ses parents.

Paro serait un moyen, selon lui, de traiter les per-

sonnes âgées comme des enfants. Cette remarque

pose des questions éthiques, ces robots sont-ils un

substitut au contact humain et donc un synonyme de

délaissement des personnes âgées ?

Jean-Gabriel Ganascia quant à lui s’oppose à ce point

de vue de l’infantilisation, car, pour lui on ne perd pas

sa dignité en s’attachant à une poupée par exemple26,

ce comportement n’admet pas beaucoup de risques.

En effet, la dignité dans sa définition philosophique

concerne le respect, et selon lui, « la personne qui

adopte un robot ne semble ni asservie ni instrumen-

talisée ». De plus, selon lui, ces robots de compagnie

s’avèrent très utiles dans certaines situations et pour

plusieurs pathologies. Pour autant est ce que les

bienfaits apportés par la robotique chassent toutes

les questions éthiques qui lui sont liées ?

Une relation trop forte envers les robots soulève

beaucoup de questions concernant l’implication des

humains dans cette relation. Nombreuses personnes

tel que Serge Tisseron préconise de penser dès à

présent notre futur vie en compagnie des robots

et d’envisager les différents scénarios pouvant se

produire pour ne pas laisser aux roboticiens le

pouvoir de créer une robotique selon leurs seules

envies. Se pose alors la question suivante: quelle

éthique pour la robotique ?

25→ En compagnie des robots, édition Premier Parallèle, 2016 ouvrage

collectif avec notamment Yannis Constantinidès (agrégé et docteur

en philosophie, professeur d’éthique médicale à l’Espace éthique de la

région Île-de-France. On lui doit Le Nouveau culte du corps (François

Bourin, 2013), qui traite notamment de notre perception du corps à

l’heure de l’hybridation. )

26→ En compagnie des robots, édition Premier Parallèle, 2016 ouvrage collectif avec notamment Jean-Gabriel Ganascia

(professeur de sciences informatiques à l’université Pierre-et-Marie-Curie (Paris-VI), chercheur au Laboratoire d’informatique de

l’université Paris-VI, membre du COMETS (Comité d’éthique du CNRS). Il a participé au rapport du CERNA (Commission de

réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistène), dont il est membre, sur l’éthique de la

recherche en robotique. Il est notamment l’auteur de L’ me Machine (Seuil, 1999), 2001, L’Odyssée de l’esprit (Flammarion, 1999),

Idées reçues sur l’intelligence artificielle (Le Cavalier Bleu, 2007), et Voir et pouvoir, qui nous surveille ? (Le Pommier, 2012). )

vivre en compagnie des robots quelle éthique pour la robotique?

Donna Haraway écrivait dans son livre Manifeste

des espèces compagnes paru en 2003 « Vivre avec

les animaux, investir leurs histoires et les nôtres,

essayer de dire la vérité au sujet de ces relations, co-

habiter au sein d’une histoire active : voilà la tâche

des espèces compagnes. ». Ce livre fait suite à son

Manifeste cyborg paru en 1984, il s’agit d’une actuali-

sation des enjeux théoriques qu’elle avait déployée

en parlant du cyborg. Elle y parle des « êtres autres

qui comptent », en prenant pour appui sa relation

avec sa chienne Pepper avec laquelle elle entretient

« une histoire d’amour ». C’est donc par la relation

d’amour que Donna Haraway nous invite à réfléchir

à ce qu’elle appelle les espèces compagnes dans

son manifeste. Pour elle, les espèces compagnes

représentent toutes les espèces avec lesquelles on

a eu des interactions au cours de l’histoire, avec

lesquelles nous avons des échanges permanents

qui nous ont construits autant que nous les avons

construits, pour elle il s’agit du riz, des abeilles, de

la flore intestinale… C’est-à-dire, d’après elle, nous

faisons système avec l’ensemble du vivant c’est le

principe qu’elle nomme « natureculture » qui fait di-

rectement écho à sa figure du « cyborg ». Le principe

de « natureculture » est un néologisme qui définit le

fait qu’il n’y a ni nature ni culture mais un mélange

indémêlable de l’un et de l’autre.

③NOUVELLES ESPÈCES

COMPAGNES: QUELLE

ÉTHIQUE POUR

LA ROBOTIQUE ?

vivre en compagnie des robots nouvelles espèces compagnes

vivre en compagnie des robots quelle éthique pour la robotique?

Pour illustrer cet entremêlage permanent, Vinciane

Despret qui a préfacé ce manifeste explique que

les espèces compagnes transforment les gens et le

rapport qu’ils entretiennent avec leur milieu. Par ce

fait elles remettent en question notre individualité,

et selon elle « nous n’avons jamais été des individus,

avec tout ce qui nous compose, nous sommes des sys-

tèmes, des sociétés »27 et nous faisons système avec

l’ensemble du vivant. Ce glissement vers le terme

d’espèces compagnes, favorise l’idée d’un vivre en-

semble d’un réel compagnonnage entre les espèces.

Le compagnonnage est le fait d’avoir pour compa-

gnon quelqu’un ou quelque chose dont nous sommes

nous même compagnon. Autrement dit, il pourrait

être intéressant de penser notre future vie en compa-

gnie des robots selon cette relation d’échange mutuel

constant, en pensant les choses vivantes comme

des réels systèmes avec lesquels on peut se mélan-

ger pour évoluer. Pour se faire il faudrait penser la

robotique dans sa relation avec l’homme, comme le

préconisait Simondon dans son livre paru en 1958

Du mode d’existence des objets techniques. Il préconisait

d’éloigner les préjugés sur l’objet technique, car pour

lui nous sommes nous-mêmes des objets techniques.

En effet, notre méconnaissance nous empêche d’en-

tretenir une vraie relation aux objets techniques, car,

lorsque l’on s’aperçoit que notre contrôle n’est pas

ultime sur la machine, c’est notre peur qui prend le

pas. Le malentendu repose sur le fait que nous esti-

mons que plus une machine est automatisée plus elle

a un degré de technicité élevé, hors pour Simondon

c’est le contraire. La machine se dispense de l’exercice

d’une force humaine, elle accomplit seule la tâche.

L’automatisation apparaît au premier abord d’une

plus grande technicité mais elle est en réalité une fer-

meture de l’objet sur lui-même, d’une forme de limite.

C’est la limitation de cette machine à des tâches bien

déterminées. L’objet de haute technicité est un objet

avec lequel on communique, un objet ouvert, qui n’est

limité qu’à une seule tâche, l’interaction est plus im-

portante. Pour Simondon un objet ouvert a la capacité

27→ Podcast Animé par VAN REETH Adèle

et MOSNA-SAVOYE Géraldine, « La langue

souple et agile de ma chienne a nettoyé les tissus

de mes amygdales », France culture, 2021, avec

Vinciane Despret

à assimiler une information extérieure et qui n’est pas

bloqué sur une tâche prédéterminée. Ce qu’il propose

ce n’est pas tant de mesurer la performance technique

(efficacité) mais plutôt l’ouverture. Il préconise que

l’on devrait avoir un rapport éthique aux objets tech-

niques, pour lui nous ne sommes pas les maîtres d’ob-

jets auxquels nous refusons d’entretenir des relations

éthiques, mais plutôt, nous devons créer quelque

chose, nous devons agir envers les objets techniques

en communiquant avec eux, nous devons leur deman-

der, nous devons agir pour obtenir le résultat que nous

souhaitons. Il propose de décaler le regard que nous

avons sur l’objet technique, arriver à le penser autre-

ment qu’avec les critères objet-sujet (avec binarité). La

créativité permise par les objets techniques est ce qui

est rendu possible par une interaction maximale avec

cet objet, car si nous n’interagissons pas nous sommes

limités par les simples usages de la machine.

La pensée de Donna Haraway pourrait se calquer sur

nos rapports aux robots. Pour elle « une espèce com-

pagne ne peut exister seule ; pour en faire une il en

faut au moins deux. C’est compris dans la syntaxe ;

c’est compris dans la chair », elle met en exergue le

fait qu’une relation de compagnie nécessite forcé-

ment deux entités qui existent l’une pour l’autre,

qui dépendent l’une de l’autre. En effet, le robot n’a

pas vraiment de mode d’existence au-delà de ce

que l’homme lui octroie, comme expliqué par Jean-

Gabriel Ganascia dans le livre En compagnie des robots,

« qu’est ce qu’un robot ? [. . . ] ce n’est pas seulement

une entité matérielle. C’est aussi un dispositif socio-

technique dans la mesure où il n’a de viabilité que

vis-à-vis des hommes qui lui attribuent sa significa-

tion; en dehors, il n’est rien qu’un amas de compo-

sants électroniques magnétiques »28.

Vivre en compagnie des robots implique donc un

investissement actif de la part des deux parties, car

ce n’est que comme ça que le vivre ensemble pourra

se profiler.

28→ BENSOUSSAN Alain, DARLING

Kate, GANASCIA Jean-Gabriel,

CONSTANTINIDES Yannis, En compagnie

des robots, édition Premier Parallèle, 2016.

vivre en compagnie des robots nouvelles espèces compagnes

vivre en compagnie des robots quelle éthique pour la robotique?

Les innovations technologiques proposaient

déjà des enjeux éthiques dans la science-fiction.

Les quatres lois de la robotique furent le fruit de

discussions entre Isaac Asimov et John Campbell

autour du thème des robots. Elles furent citées

explicitement pour la première fois en 1942 dans

la nouvelle Cycle fermé (Runaround). Des lois

permettant à la machine de ne jamais faire du mal

à un humain, alors même qu’Asimov lui-même était

persuadé que cela n’arriverait jamais.

Loi Zéro : Un robot ne peut pas porter atteinte à l’humanité,

ni, par son inaction, permettre que l’humanité soit exposée au

danger ;

Première Loi : Un robot ne peut porter atteinte à un être

humain, ni, restant passif, permettre qu’un être humain soit

exposé au danger, sauf contradiction avec la Loi Zéro ;

Deuxième Loi : Un robot doit obéir aux ordres que lui donne

un être humain, sauf si de tels ordres entrent en conflit avec la

Première Loi ou la Loi Zéro ;

Troisième Loi : Un robot doit protéger son existence tant que

cette protection n’entre pas en conflit avec la Première ou la

Deuxième Loi ou la Loi Zéro ».

vivre en compagnie des robots nouvelles espèces compagnes

vivre en compagnie des robots quelle éthique pour la robotique?

Le Parlement européen a fait référence aux lois d’Asi-

mov dans sa résolution du 12 février 2019 sur une

politique industrielle européenne globale sur l’intel-

ligence artificielle et la robotique (« Principes géné-

raux : considérant qu’il y a lieu de considérer les lois

d’Asimov comme s’appliquant aux concepteurs, aux

fabricants et aux opérateurs de robots, y compris de

robots dotés d’autonomie et de capacités d’auto-ap-

prentissage, étant donné que lesdites lois ne peuvent

être traduites en langage de programmation »).

Il est aussi nécessaire de prendre en compte dans

l’éthique la notion d’implication des sentiments

humains vis-à-vis des machines. Pour non pas

chercher à contrôler notre attachement aux robots,

mais peut-être s’en servir comme un levier servant à

déceler les comportements pouvant être considérés

comme moralement inacceptables sur la machine ?

Prenons l’exemple des combats de robots, une dis-

cipline assez répandue aux Etats Unis. Une sorte de

combat de gladiateurs dans une arène spécifique,

dans lequel il faut détruire jusqu’à l’agonie ses adver-

saires robots. Ces combats sont d’une extrême vio-

lence, outre le fait qu’il questionne aussi les combats

d’animaux, on pourrait se demander: faut-il les inter-

dire ? Il est évident que le robot n’a pas de capacité à

souffrir. En revanche, c’est bien le spectateur qui peut

se retrouver choqué par ce spectacle d’une extrême

violence. En particulier parce que l’humain identifie

le robot comme un agent qui souffre en transposant

ses émotions.

capture d’écran d’une vidéo de combat de robot, postée sur la chaîne BattleBot en 2017, deux robots en plein combat

vivre en compagnie des robots nouvelles espèces compagnes

Ainsi pour Jean-Gabriel Ganascia29 il est nécessaire

d’interdire ce genre de combats, non pas pour pré-

server l’intégrité de ces robots mais plutôt car « en le

tolérant, en m’y habituant et en y restant insensible,

on pourrait craindre qu’à l’avenir je tolère, m’habitue

et demeure insensible aux formes de violences exer-

cées à l’encontre de tous ceux pour lesquels je suis

susceptible d’avoir de l’empathie. ». C’est bien ici la

notion d’empathie qui est mise en jeu, qui révèle les

problèmes de ce genre de comportement pour nous

les humains. Pour lui aujourd’hui il n’est pas néces-

saire de parler d’un droit pour les robots pour autant.

Une pensée que son confrère Alain Bensoussan30

contredit car selon lui il faut « construire un droit qui

fait que toute l’empathie que ce robot suscite puisse

s’inscrire dans le cadre juridique », lui aussi se po-

sitionne en faveur de l’interdiction des combats de

robots, mais pour lui il en va de la dignité des robots,

d’une éthique des robots.

En effet, le robot est un agent autonome ayant la ca-

pacité d’apprendre, alors qu’en serait-il si les compor-

tements violents faisaient partie de son quotidien ?

Il serait capable de se « reprogrammer » et ses réac-

tions seraient différentes de ce que les concepteurs

avaient imaginé. Voilà pourquoi il est important de

penser à une éthique pour la robotique: « Il faut uti-

liser et apprendre aux robots des règles qui doivent

être dignes »35. Les enjeux de cette anticipation sont

déjà très nombreux : protéger les hommes de ce que

cette nouvelle compagnie peut impliquer pour eux,

se prémunir de nos propre comportement vis-à-vis

de cette espèce, construire un vivre ensemble harmo-

nieux et apprendre de cette compagnie…

29→ Ibid 30→ Ibid avec notamment Alain Bensoussan, avocat

à la cour d’appel de Paris, spécialiste en droit des

technologies avancées, et auteur du livre Droit des

robots (avec Jérémy Bensoussan, Larcier, 2015)

31→ Ibid

James Cameron, Terminator, 1984

2→LES DANGERS

ET LES TRAVERS

DE LA ROBOTIQUE

AFFECTIVE

L’effroi, les clichés de la science-fiction

vivre en compagnie des robots

Afin d’entamer cette partie développant des risques

de la robotique, il est nécessaire de faire un retour

au source de ce que cela représente pour nous au-

jourd’hui. En effet la robotique est un champ qui a

été plus qu’exploité dans le domaine de la science

fiction créant un réel imaginaire collectif autour de la

robotique empli de fantasmes et de peurs. Le terme

« robot » fait sa première apparition en 1920 dans

une pièce de théâtre tchèque « RUR », robot est un

mot dérivé de Robota (travailler) et Rob (esclave). Les

robots, dans cette pièce de théâtre, étaient des êtres

travailleurs produits en série, mais qui finissent par

vouloir anéantir l’humanité; scénario repris depuis

de nombreuses fois dans la science-fiction. Les

robots sont donc dans un premier temps des pro-

duits de science fiction (film Métropolis 1927). Mais

ils sont inspirés d’une réalité plus ancienne, culturel-

lement (thématique de l’objet non conscient créé par

l’homme devenant conscient) avec le mythe du Golem.

②L’ÉFFROI, LES CLICHÉS

DE LA SCIENCE-FICTION

vivre en compagnie des robots L’effroi, les clichés de la science-fiction

Dans la mythologie juive, il y a le Golem, être

d’argile dépourvu de libre arbitre, créé pour

assister et protéger son créateur.

Sur son front est inscrit en hebreu « la

vérité », chaque vendredi il doit être

désactivé pour ne pas travailler. Un jour

son créateur oubli et le golem risque de se

retourner contre son créateur. Ce dernier

efface la première syllabe de l’inscription

qui devient « la mort ». Le golem s’écroule.

Paul Wegener, Le Golem, comme il vint au monde, 1920, Deutsche Kinemathek, Berlin.

L’effroi, les clichés de la science-fiction

vivre en compagnie des robots L’effroi, les clichés de la science-fiction

vivre en compagnie des robots

L’effroi, les clichés de la science-fiction

vivre en compagnie des robots

vivre en compagnie des robots L’effroi, les clichés de la science-fiction

Cette thématique de la créature se retournant contre

son créateur est plus que récurrente et a été plus

qu’exploitée au cours de l’histoire. La science-fiction

étant un genre d’anticipation, elle a été le tout premier

modèle d’une société robotique. La science-fiction

et la réalité sont étroitement liées car elles se nour-

rissent l’une l’autre. À l’origine, ce sont les écrivains

de science-fiction qui s’inspirent du contexte dans

lequel ils vivaient ou ont vécu. Leur travail reflète des

questions, des espoirs et des préoccupations concer-

nant le développement du monde. Néanmoins, il ne

faut pas oublier que la science-fiction ne doit pas né-

cessairement être réaliste et n’a pas la capacité de lire

l’avenir, elle permet donc beaucoup d’exagération et

de fantaisie.

Malgré tout, cette réalité fantasmée constitue un

schéma de pensée connu de tous. Il est difficile pour

beaucoup de savoir discerner le vrai de la fiction

lorsque les scénarios deviennent réels. Une des

peurs principales véhiculée par ce genre est celle

de la domination des machines. Une peur qui prend

source dans les écrits présentant la machine comme

surpassant l’homme et voulant le contrôler. Un

scénario que l’on retrouve notamment dans le film

I Robot réalisé par Alex Proyas avec Will Smith, Alan

Tudyk sorti en 2004. Ce film s’inspire grandement

des œuvres d’Isaac Asimov Les Cavernes d’acier (1954)

et Les Robots (1950) ainsi que de la nouvelle Le Robot

qui rêvait (1988). Dans ce film, l’intelligence artificielle

chargée de l’harmonisation de tous les systèmes ro-

botiques de la planète considère les hommes comme

des faibles d’esprits bons qu’à créer des armes pour

s’entretuer. L’intelligence artificielle prend donc la

décision de protéger les hommes d’eux-mêmes en

les asservissant. C’est aussi un scénario proche de

celui que l’on retrouve dans Terminator un film de

science-fiction américain réalisé par James Cameron,

sorti en 1984, dont la thématique principale est la

suprématie des machines sur les hommes. Ce film

est devenu l’un des classiques du cinéma d’action et

d’anticipation des années 1980. On retrouve aussi

dans Dune de Herbert une présentation d’un monde

futuriste où les machines auraient eu un impact fort

sur la société. Une des particularités de ce monde

est d’avoir banni la machine « qui contrefait l’es-

prit humain », jugée mauvaise et dangereuse : « Les

hommes ont autrefois confié la pensée aux ma-

chines dans l’espoir de se libérer ainsi. Mais cela

permit seulement à d’autres hommes de les réduire

en esclavage à l’aide de machines. ». Aujourd’hui de

nombreux chercheurs s’accordent pour dire que ce

genre d’utopie relève plus d’un fantasme que d’une

réalité imminente.

Néanmoins, la peur des objets technologiques est bien

réelle: on parle de technophobie. Ce terme est utilisé

pour désigner un rejet de la technique. La technopho-

bie se manifeste le plus souvent par un évitement de

contact avec la technologie. On rattache l’origine de

ce terme à la révolte des luddites, un conflit indus-

triel violent contre l’automatisation du travail par les

machines entre 1811 et 1813 en Angleterre. Cette rébel-

lion avait permis de faire naître des questionnements

autour des machines et du travail. De même l’astro-

physicien britannique spécialiste des trous noirs,

Stephen Hawking présageait que « le développement

d’une intelligence artificielle complète pourrait mettre

fin à la race humaine »32. Cette prédiction semble tout

droit sortie d’un film de science fiction, « le scienti-

fique a déclaré que le développement de l’intelligence

artificielle pourrait provoquer dans la réalité un scé-

nario comparable à celui des films Terminator. »33

La science-fiction a sans aucun doute permis de

généraliser une pensée collective dans laquelle la

machine peut être dangereuse et incontrôlable. Il est

vrai que l’arrivée de la robotique dans notre vie quo-

tidienne comporte des risques bien réels dont il faut

se prémunir pour se pourvoir d’un esprit critique et

être mieux protégé de ces nouveaux compagnons.

32→ Les robots sont-ils nos amis ? Rfi,

2014, Dominique Desaunay

33→ LAFP, Une intelligence artificielle

complète pourrait mettre fin à la race

humaine, la Tribunre, 2014

les dangers réels

vivre en compagnie des robots

Comme vu précédemment, l’empathie et l’atta-

chement pour les robots présentent de nombreux

risques pour l’utilisateur. C’est la cas de l’attache-

ment émotionnel trop fort des soldats avec leurs

robots démineurs qui pourrait aller jusqu’au sacri-

fice pour sauver un robot. Dans une situation plus

quotidienne, la collecte d’informations est présente

tout autour de nous. Nous laissons échapper des in-

formations personnelles sans même nous en rendre

compte. Mais qu’en sera-t-il lorsque même chez nous

ces informations pourraient être récoltées par les fa-

bricants de robotique ?

En effet, dans la première partie nous avons abordé

l’importance de placer sa confiance dans un robot

pour l’accepter dans notre quotidien. Les robots

vont introduire une nouvelle manière de collecter

des données. Dans cette relation nous pourrions

livrer plus d’informations personnelles car notre vi-

gilance serait altérée par une relation de confiance.

Aujourd’hui rien ne nous garantit que nos infor-

mations personnelles seront sécurisées. Certains

parlent même de réels espions auxquels nous allons

laisser l’accès à notre intimité et qui menacent notre

vie privée. « Si les sourires de ces petites machines

nous encouragent à baisser la garde, quitte à leur

livrer nos secrets sur un plateau, que deviennent

ces données, qui en fait quoi ? Ce sont des poten-

tiels espions, armés de caméras et de micros que

nous invitons à partager notre intimité » retrouve-

t-on dans l’introduction de l’essai En compagnie des

robots rédigée par l’éditeur. Néanmoins la collecte

d’informations peut avoir des usages que l’on pour-

rait qualifier de bénéfique.

②LES DANGERS RÉELS

DE LA COMPAGNIE

DES ROBOTS

les dangers réels

vivre en compagnie des robots

les dangers réels

vivre en compagnie des robots

Certains robots aujourd’hui présents

dans le domaine thérapeutique et

médical usent de ce stockage de

données en les enregistrant et en

transmettant les informations aux

soignants. C’est notamment le cas de

Nao, créé par SoftBank robotics.

Figure 7: Le robot Nao interagit avec des enfants pré-

sentant des troubles du spectre autistiques pour les

aider dans leur vie scolaire. © Pierre DESTRADE

Nao, © Inserm/Patrice Latron

vivre en compagnie des robots les dangers réels

les dangers réels

vivre en compagnie des robots

vivre en compagnie des robots les dangers réels

Ce type de robots de compagnies fournissent une

présence auprès d’un certain nombre de personnes

sans épuiser le personnel. C’est ce qu’explique Jean

Gabriel Ganascia « Ils enregistrent et transmettent

l’information, ce qui rassure l’entourage immédiat,

le personnel soignant et les enfants. Ceux-ci sauront

exactement ce qui se produit et seront, si jamais il y

a un problème, capables d’intervenir à temps. . »34.

Il est prouvé, surtout en psychologie, qu’un patient

peut se sentir plus à l’aise de converser avec une

machine à des fins thérapeuthique, c’est d’ailleurs

le rôle du chatbot Eliza35, une thérapeuthe virtuelle

dont la première version remonte aux années 60.

Cette faculté à se confier plus facilement à un robot

pourrait être un nouveau moyen d’établir, peut être,

des diagnostics plus sûrs dans la mesure où les

échanges entre humains et machines seraient récu-

pérés par les soignants qui peinent plus à obtenir

des informations complètes.

Néanmoins il y a un point sur lequel il est nécessaire

d’être vigilant: une tendance trop forte à l’anthro-

pomorphisme. Il existe deux risques à cela, oublier

que l’interlocuteur n’est qu’un objet et oublier que

la machine en est une en lui attribuant des senti-

ments propres à elle. Pour des publics non avertis,

surtout les enfants et les personnes âgées, la forme

attractive des robots modernes leur fait oublier qu’ils

s’adressent à un objet. Qu’en sera-t-il si un robot

manque de se faire écraser et en le prenant pour un

humain une personne âgée est blessée parce qu’elle

a tenté de lui venir en aide ? Il en va de même si nous

nous mettons à penser que notre robot peut réelle-

ment souffrir. L’anthropomorphisme est un compor-

tement très naturel et difficilement contrôlable, nous

avons même vu plus haut qu’il nous aide à voir de

nous dans les robots et de ce fait mieux les accep-

ter dans nos vies. Mais cette tendance trop forte à

l’anthropomorphisme mêlée à nos sentiments pose

problème. En effet le sentiment empathique pour-

rait nous amener à considérer un robot comme un

35→ ELIZA est un programme informatique

qui tente de simuler un entretien avec un

thérapeute rogérien (thérapie axée sur la

répétition et l’empathie)

34→ IBENSOUSSAN Alain, DARLING

Kate, GANASCIA Jean-Gabriel,

CONSTANTINIDES Yannis, Op. cit

surhomme, en oubliant que la machine est une

machine. C’est ce qu’explique Serge Tisseron à

propos des robots démineurs, il préconise de rappe-

ler « que les missions destinées aux robots puissent

toujours être accomplies par des êtres humains,

de façon à éviter que se développe l’idéologie d’un

robot surhumain qui devrait être protégé en priori-

té »36. C’est d’ailleurs ce que préconise Julie Carpenter

dans son livre Culture and Human-Robot Interaction

in Militarized Spaces: A War Story. Elle propose de

revenir au fait que le robot est un outil et de le rap-

peler jusque dans leur forme afin de leur donner une

apparence peu attractive et surtout moins de person-

nalité pour limiter l’attachement trop fort des soldats

envers eux. 37

On retrouve bien évidemment un danger dans cette

tendance à estimer que nos rapports sont égaux

par l’anthropomorphisme émotionnel comme le

souligne Serge Tisseron « Le danger ne vient pas de

considérer comme symétrique une relation qui ne

l’est pas, mais de sous-estimer l’importance des in-

formations que les programmeurs du robot, ou les

services chargés de sa maintenance, obtiendront

sur son utilisateur, et des usages qu’ils pourraient en

faire »38. Il est plus que nécessaire pour le psychiatre

de ne pas laisser aux roboticiens la liberté absolue

de créer des robots selon leur simple volonté sans

penser au danger. Il faut dès à présent se prémunir

de risques éventuels pour mieux préparer le futur.

Car, en effet, il nous a été aisé de voir que les com-

portements les plus fréquents ne sont pas ceux qui

avaient été, de base, imaginés lors de la concep-

tion. Et ce sont ces comportements « déviants »

de l’homme vis-à-vis de la machine qui pourraient

aussi comporter des risques. Le comportement le

plus problématique qui en découle est celui de la

perte de liens sociaux entre humains.

36→ TISSERON Serge, Le Jour

où mon robot m’aimera, édition

Albin Michel, 2015

37→ CARPENTER Julie, Culture and

Human-Robot Interaction in Militarized

Spaces: A War Story, édition Routledge,

2015.

38→ TISSERON Serge, Le Jour où mon

robot m’aimera, édition Albin Michel,

2015

vivre en compagnie des robots les dangers réels

les dangers réels

vivre en compagnie des robots

En effet, le robot à cette compétence d’être à notre

service, de nous écouter sans broncher et cela peut

poser problème. Laurence Devillers dans son livre

Les robots émotionnels: Santé, surveillance, sexualité. . . :

et l’éthique dans tout ça ? met en garde sur le fait que

les machines « en nous accaparant, peuvent aussi

nous isoler des autres et appauvrir nos relations

et nos connaissances si nous n’y prenons garde »39.

Comme exemple concret de machine ayant modifié

nos comportements il y a l’exemple du téléphone

portable, « être joignable tout le temps nous a rendu

moins patients. De la même façon, à trop fréquen-

ter des robots gratifiants, nous pourrions devenir

moins tolérants face aux désaccords et aux frustra-

tions qui, inévitablement, accompagnent la vie avec

nos semblables. »40. Cet exemple des smartphones

illustre aussi la perte de connaissance liée à notre vie

en compagnie du numérique, par exemple sans notre

téléphone sur nous, serions-nous capable de réaliser

un itinéraire seul•e ? probablement pas. On parle au-

jourd’hui d’une réelle addiction à nos smartphones,

un outil d’assistance, alors un jour pourrions-nous

être addict à notre robot ?

Au-delà d’un isolement probable et de la perte de

liens humains, un des dangers qui se soulève aussi

dans nos interactions avec les robots est la perpé-

tuation probable de certains schémas stéréotypés.

En effet, pour reprendre l’exemple des Love Dolls,

elles n’incarnent que des femmes, aux physiques

bien éloignés de la diversité des humaines, avec des

comportements stéréotypés créés par des hommes

pour des hommes. Cet exemple permet de mettre en

lumière un nouveau potentiel dangereux de la robo-

tique: celui d’être le miroir de ses créateurs, de leurs

idéaux et de ses utilisateurs. Penser que les robots

ne sont ni sexistes ni racistes en pensant qu’ils ne

pensent pas d’eux mêmes est une idée dangereuse.

En effet il est nécessaire de prendre en compte les

idéaux de leurs créateurs et ce que nous-même nous

serions capable de leur apprendre. Le milieu de la

39→ DEVILLERS Laurence,

Les robots émotionnels: Santé,

surveillance, sexualité. . . : et

l’éthique dans tout ça ?, édition

L’Observatoire Eds De, 2019

40→ D. COT Bruno, interview

- « Intelligence artificielle:

« Restons maîtres des robots » »,

l’Express, 2015, avec Serge

Tisseron

robotique n’est pas un milieu très mixte, ce manque

de diversité pose des problèmes de perpétuation de

stéréotypes et d’habitudes. Dans les écoles de numé-

rique par exemple, le taux de femmes est inférieur à

10%41. Se pose alors la question de la représentation.

Laurence Devillers42 met en garde sur le rôle de re-

présentation que vont avoir les robots « le soucis c’est

de voir que les biais existant dans la société puissent

exister à travers ces machines automatiques [. . . ]

il faut faire attention à l’image de la femme qui est

derrière et aux roles que l’on veut faire jouer aux ma-

chines ». Il y a donc le rôle de la représentation qui

se pose, pourquoi faire le choix de faire des robots

genrés ? Par exemple, les voix synthétiques, celles

présentes dans les agents conversationnels tels que

Siri, Alexa, Google Home comportent des attributs

humains, leurs voix sont genrées en fonction de

règles stéréotypées. Par exemple, pour les concep-

teurs une voix féminine sera utilisée car elle est plus

douce et docile, alors que dans des contextes d’au-

torité, pour eux, il sera préférable d’utiliser une voix

masculine synonyme de pouvoir. En dehors du fait

que ces agents perpétuent des stéréotypes de genre,

ils redessinent aussi les rôles. Par exemple, au Japon

il existe de nombreux assistants vocaux, dont notam-

ment Azuma: « D’immenses yeux bleus, jupe ras le

bonbon, voix cristalline, comme une version manga

de la fée clochette, Azuma Hikari est un hologramme

délicieux qui veille gentiment sur son propriétaire. »43.

Le problème que soulève ce genre de dispositif est

aussi que le comportement stéréotypé de ces agentes

véhicule et renforce l’idée de la femme objet.

41→ Animé par GARDETTE

Hervé, « Les robots ont-ils des

préjugés ? » France Culture, 2018,

avec Cedric Villani

42→ Animé par GARDETTE

Hervé, « Les robots ont-ils des

préjugés ? », France Culture, 2018,

avec Laurence Devillers, autrice de

« Des robots et des femmes »

43→ SUTTER Béatrice, « Ces

robots sont faits pour l’amour,

et vous allez adorer les aimer »,

l’ADN, 2018

vivre en compagnie des robots les dangers réels

les dangers réels

vivre en compagnie des robots

Azuma, gatebox

vivre en compagnie des robots les dangers réels

Il y a aussi des cas où, les comportements sont tel-

lement internalisés que cela donne lieu à des si-

tuations où la machine va révéler les failles de sa

conception. C’est le cas d’une intelligence artificielle

mise en place par Amazon qui était chargée de trier

les CV. Un peu moins d’un an après son lancement,

l’entreprise s’est rendu compte que l’IA « n’aimait »

pas vraiment les femmes, car à compétences égales

avec un homme ces dernières étaient toujours moins

bien notées. Pour cause cette intelligence artificielle

avait été entraînée à partir de CV de personnes tra-

vaillant entre 2004 et 2014 chez Amazon, des per-

sonnes qui étaient majoritairement des hommes.

L’intelligence artificielle privilégiait donc les CV mas-

culins, et pénalisait des CV contenant la mention

« women » (femme).

Ces nombreux dangers ajoutés à ceux implantés

dans l’imaginaire collectif par la science fiction nous

dirigent dès à présent à repenser notre manière de

créer de la robotique. En effet les problèmes sou-

levés sont bien réels; attachements trop forts à la

machine, collectes de données, espionnage, ten-

dances trop fortes à l’anthropomorphisme, modi-

fications des liens entre humains, accentuation et

perpétuation de biais sociaux… Ces nombreux enjeux

se proposent d’être résolus en pensant notamment

par le design éthique.

se prémunir des risques, le design éthique

vivre en compagnie des robots

Comment se prémunir face à de tels dangers ? C’est

la question à laquelle Serge Tisseron à tenté de ré-

pondre dans son interview pour l’Express paru en

2015 « Intelligence artificielle: "Restons maîtres des

robots" »44 : « D’abord, en réfléchissant au plus vite

à une législation qui protège notre intimité. Ensuite,

c’est aux acteurs de cette puissante industrie, les

fameux GAFA (Google, Apple, Facebook, Amazon),

d’accepter d’aller vers des systèmes ouverts, en

open source, qui restent accessibles à tous. Enfin, il

y a un travail d’éducation à lancer auprès des jeunes

générations pour les préparer à la révolution de

la robotique. Cela passe, dès l’école primaire, par

le développement d’un esprit critique afin que les

élèves prennent le recul nécessaire. Puis, plus tard,

par la maîtrise du langage de programmation, qui

doit devenir une discipline à part entière, au même

titre que le français ou les mathématiques, pour

agir sur ces technologies. Il y a urgence à enseigner

à nos enfants comment rester maître des robots.

Parce que, eux, à coup sûr, les fréquenteront au quo-

tidien. ». Il s’agit donc pour le psychiatre de donner

accès à tous aux ressources et aux savoirs néces-

saires pour comprendre ce qu’est la robotique.

③ SE PRÉMUNIR DES

RISQUES, LE DESIGN

ÉTHIQUE

44→ D. COT Bruno, interview - « Intelligence

artificielle: "Restons maîtres des robots " »,

l’Express, 2015, avec Serge Tisseron

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

vivre en compagnie des robots Comment le mone pourrait se redessiner?

vivre en compagnie des robots se prémunir des risques, le design éthique

C’est d’ailleurs ce que le « Serment d’Hippocrate pour

Data Scientist » élaboré par Data for Good45 tente de

mettre en place. Ce serment s’engage à informer

« de façon compréhensible et précise » sur les « fi-

nalités » et les « implications potentielles » de l’uti-

lisation des données46. Ce modèle s’inspirant du

serment d’Hippocrate (qui est prêté par les nou-

veaux soignants diplômés, qui n’a pas de valeur

juridique mais qui est un réel symbole de morale)

s’adresse aux individus et non aux entreprises ou

institutions. Une série de grands principes auxquels

les professionnels du numérique peuvent adhérer

en signant les textes en ligne.

Cette volonté d’aller vers une transparence et vers

des systèmes open source est notamment l’un des

piliers du design éthique.

L’éthique constitue initialement un champ d’étude

en philosophie. Un comportement est dit éthique

dans la mesure où il est en accord avec les attentes

culturelles d’une société en relation avec la mora-

lité et l’équité47. En philosophie, si la morale a une

portée universelle, l’éthique s’apparente plus à une

méthode pour guider les actions humaines. C’est

par l’éthique que se proposent de réfléchir de nom-

breux chercheurs et designers concernant les nou-

velles technologies.

Aujourd’hui on entend de plus en plus souvent parler

de l’« ethic by design », pris littéralement, la formule

se transpose en « éthique par conception »48 ou en

« éthique dès la conception » (définition proposée par

Jean Gabriel Ganascia dans un article pour Science

avenir). C’est aux Etats Unis que ce mouvement

prend source, pour un numérique durable, initié par

des anciens collaborateurs de chez Google. En effet,

les géants du numérique feraient un usage abusif

de la captologie. La captologie se définit comme une

technique de persuasion et de changement de com-

portement. Le design éthique est une pensée globale

45→ site internet

dataforgood. com

46→ LEGROS Claire, « Un

« serment d’Hippocrate »

pour les professionnels de

l’intelligence artificielle », Le

Monde, 2015

47→ Défnition présente

dans: Ethique des robots

intelligents dans la société

humaine: Regards croisés

issus du droit, de la science et

de la littérature

48→ GANASCIA Jean

Gabriel, « Du bon usage

de l’expression éthique by

design », Sciences avenir,

2022

qui « s’intéresse à la conception du numérique sur

plusieurs axes : vie privée, attention, conception éco

responsable ou encore légalité. Il s’agit d’analyser

l’impact du design de service numérique comme les

chatbots sur ses utilisateurs et son environnement,

et de faire en sorte que la pratique professionnelle

soit la plus transparente, la moins injuste et discri-

minante et la plus respectueuse possible. ». Une

définition que l’on retrouve dans le livre Les robots

émotionnels écrit par Laurence Devillers49 dans

lequel elle liste des règles de préconisations pour que

les chatbots et les robots respectent les différences

socioculturelles de chacun•es:

49→ DEVILLERS Laurence, Les

robots émotionnels: Santé, surveillance,

sexualité. . . : et l’éthique dans tout

ça ?, édition L’Observatoire Eds De,

2019

stimuler des émotions positives chez les humains;

 améliorer les relations humain-humain, le bien-être

et la résilience chez les humains;

 mettre l’accent sur les souvenirs positifs;

 avoir des valeurs définies en fonction de celles de

leurs développeurs qui peuvent être différentes de

celles de la société où ils sont insérés;

 ne pas discriminer les humains ayant des valeurs

culturelles/sociologiques/religieuses différentes de

celles de leurs concepteurs ;

 moduler/adapter leurs valeurs s’il n’y a pas de

conflits notoires selon la société où ils sont insérés. »

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

vivre en compagnie des robots Comment le mone pourrait se redessiner?

vivre en compagnie des robots se prémunir des risques, le design éthique

Cette liste donne à voir une révision de la concep-

tion de la robotique en incluant des enjeux plus

éthiques et en ne les limitant plus simplement à un

statut de machine mais en pensant dès sa concep-

tion aux valeurs positives et inclusives qu’elle pour-

rait diffuser. Ces prédispositions sont nécessaires

pour anticiper les incidences éthiques, sociétales et

politiques que pourrait avoir la robotique sur nos

vies. Le design éthique propose de penser dès à

présent à des robots justes, durables et respectueux

de l’environnement. Penser une robotique éthique

c’est bien entendu, que les humains engagés dans

le processus de création se comportent eux aussi de

manière éthique.

Lin Xin, Sisterhood III, 2009

3→L’EFFET MIROIR

D’UNE ROBOTIQUE

HUMANISÉE

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Sherry Turkle, psychologue américaine, déclare que

les robots « ne se contentent pas de faire des choses

pour nous, ils nous changent en tant que personnes,

ils changent notre façon d’être au monde, notre façon

de nous considérer, nous et les autres »50. Il paraît

évident que la robotique va provoquer des change-

ments profonds dans notre manière d’être au monde,

d’interagir, de travailler. . .

① COMMENT NOTRE

RELATION AVEC LES

ROBOTS POURRAIT

REDESSINER

NOTRE MONDE ?

50→ citation présente

dans l’Essai de En

compagnie des Robots

- op. cit

vivre en compagnie des robots Comment le mone pourrait se redessiner?

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Brigitte Munier docteur en sciences sociales, dans

son livre Robots: Le mythe du Golem et la peur des ma-

chines paru en 2011 explique que « la crainte occi-

dentale contemporaine de machines intelligentes

menaçant de gouverner l’humanité camoufle une

angoisse ancienne et croissante, celle de ne plus

trouver de sens à la nature et à la vie de l’homme »51,

l’arrivée de la machine remet donc inévitablement

sur la table la question de ce qui nous différencie en

tant qu’hommes de la machine, là où l’homme peine

déjà à comprendre sa place dans l’univers. Brigitte

Munier explique qu’en Occident « nous avons défini

l’homme pendant plus de 25 siècles comme ayant

une âme dotée d’une origine transcendante »52. Une

définition à réviser, si l’on considère aussi l’intelli-

gence artificielle comme une âme. Pourtant cette

pensée n’est pas générale, la culture japonaise par

exemple n’est pas du tout effrayée par la robotique

et pour cause: les Japonais perçoivent davantage la

machine comme un compagnon et un alter ego que

comme une menace. L’arrivée de la robotisation

remettra donc en Occident la place de l’homme en

question, là où à son habitude il est l’espèce la plus

dominante puisque la plus intelligente. L’hypothèse

que la machine surpassera l’homme est plus que

probable; à ce moment-là quelle sera sa réaction ?

Allons-nous nous diriger vers une société transhu-

maniste pour essayer de les égaler ?

Le transhumanisme est un mouvement fondé sur

l’espoir de l’avènement d’un homme augmenté phy-

siquement et intellectuellement par la technologie.

L’ambition de devenir un homme augmenté remonte

au moins au mythe de Prométhée: lorsque les hommes

se voient confier le feu et la technique, les arrachant

à la nature pour les rapprocher des dieux. C’est d’ail-

leurs dans un sens religieux que l’on retrouve les pre-

mières formes de ce concept, « Le mot trasumanar

apparaît chez Dante au XIVe siècle, dans un sens très

religieux (l’homme sort de sa condition pour aller à

la rencontre de Dieu) » comme l’explique Alexandre

52→ Ibid

Moatti (ingénieur en chef des Mines et chercheur

associé au laboratoire d’histoire des sciences

SPHERE de l’Université de Paris. ), dans un entre-

tien pour Le Figaro53. Le transhumanisme, lui-même,

trouve ses origines dans les années 1930, en France

notamment, tandis que paraît Le Meilleur des Mondes

(Brave New World), la dystopie transhumaniste d’Al-

dous Huxley en 1932. Mais c’est en 1990 que la défi-

nition du mouvement est révisée par Max More un

philosophe anglais, spécialiste du transhumanisme

fondateur de l’Extropy Institute. Il propose dans ses

« Principes de l’Extrophie » une définition revisitée

du transhumanisme : « Le transhumanisme est une

classe de philosophies ayant pour but de nous guider

vers une condition posthumaine. Le transhuma-

nisme partage de nombreuses valeurs avec l’huma-

nisme parmi lesquelles un respect de la raison et de

la science, un attachement au progrès et une grande

considération pour l’existence humaine (ou transhu-

maine) dans cette vie. […] Le transhumanisme diffère

de l’humanisme en ce qu’il reconnaît et anticipe les

changements radicaux de la nature et des possibili-

tés de nos vies provoquées par diverses sciences et

techniques. »54. Les grosses entreprises en ont déjà

saisi les enjeux économiques et investissent déjà le

marché du transhumanisme. C’est d’ailleurs le cas

de Google avec sa filiale Calico qui est spécifique-

ment dédiée à la lutte contre le vieillissement grâce

aux nanotechnologies.

53→ IMAD Joachim, « Aux origines

du projet transhumaniste », 2020,

le Figaro

54→ Petite histoire du

transhumanisme, mediatheque

de la ville de Senis

vivre en compagnie des robots Comment le mone pourrait se redessiner?

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Les robots vont profondément impacter notre

rapport à la vie et à la mort. Car les êtres robo-

tiques ne vieillissent pas, mais ils cultivent pour les

transhumanistes le fantasme de vivre plus long-

temps voir d’être immortel. C’est notamment l’ob-

jectif du transhumaniste et futurologue Ray Kurzweil

spécialiste d’intelligence artificielle chez Calico, « Dès

les années 2030, nous allons, grâce à l’hybridation

de nos cerveaux avec des nano-composants élec-

troniques, disposer d’un pouvoir démiurgique »55 (le

démiurge est un dieu créateur). Elon Musk, le fonda-

teur de SpaceX, Tesla et Open AI a annoncé en 2020:

concevoir des implants cérébraux pour rendre l’hu-

main plus intelligent et plus fort face à l’intelligence

artificielle. La pensée transhumaniste se veut d’aug-

menter la vie humaine à l’aide de la technologie, mais

à quelle point notre vie peut-elle se mêler à la robo-

tique ? Les nouvelles technologies ont déjà investi

le milieu de la médecine avec des prothèses robo-

tiques, des stimulateurs cardiaques, des lunettes,

des pompes à insulines. . Mais aussi dans le domaine

professionnel, avec des exosquelettes permettant de

préserver le corps de mouvement répétitif ou encore

des dispositifs robotiques nous remplaçant sur notre

lieu de travail. C’est le cas de T-HR3, un prototype de

robot télécommandé présenté par Toyota.

55→ BOYER Philippe, « Fusion de

l’humain et de la technique : demain,

l’immortalité », LaTribune, 2014

vivre en compagnie des robots Comment le mone pourrait se redessiner?

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Ce projet pourrait permettre à des ouvriers de tra-

vailler sans avoir à se rendre sur leur lieu de travail.

En effet, il suffirait d’enfiler un casque de réalité vir-

tuelle ainsi que quelques capteurs pour contrôler

ce robot grâce à « la technologie TSM (Torque Servo

Modules) qui permet au robot d’imiter les mouve-

ments humains avec une excellente flexibilité et

équilibre. Vingt-neuf parties du corps (dont dix

doigts) possèdent une gamme complète de mouve-

ments pour une expérience fluide et synchronisée »56

(fiche produit Toyota). L’objectif serait pour Toyota

d’imaginer un futur où l’ouvrier pourrait travailler à

l’usine en restant chez lui en utilisant le T-HR3. Un

environnement dans lequel des humains peuvent

aussi évoluer afin de collaborer avec les robots en

toute sécurité.

Si la pensée transhumaniste se diffuse et que la

société tend vers une adoration et un culte des robots,

n’allons nous pas développer une volonté de créer des

familles avec eux par exemple ? Pouvons-nous nous

imaginer avoir des enfants avec eux ? C’est le défi fou

que s’est lancé Sergi Santos qui déclarait en 2017 avoir

imaginé un système permettant à un être humain de

se reproduire avec un robot. Le concept, compliqué à

mettre sur pied, consiste à créer un génome artificiel

à partir des propriétés physiques et psychologiques

de la « poupée-mère » et du géniteur. Par la suite, en

associant le génome à un algorithme puis à une impri-

mante 3D, il serait, selon l’inventeur, possible de créer

un bébé-robot « ressemblant » aux deux parents, mais

tout ceci relève encore de la pure théorie57. Ce dernier

aurait même déclaré vouloir « créer une autre forme

d’intelligence artificielle et l’insérer dans un enfant

robot. Il serait donc un genre de mélange entre les

personnalités respectives de l’humain et son robot ».

La pensée de ce créateur est probablement trop ex-

travagante et ce projet ne se retrouvera jamais acces-

sible au grand public pour des questions éthiques,

mais elle interroge sur le sens donné à la vie, de la

naissance à la mort.

56→ Fiche produit T-HR3

sur le site de Toyota

57→ DEMEURE Yohan, rédacteur

scientifique, « Le robot sexuel

Samantha devient un produit de

masse en Europe… » Science Post,

novembre 2017

Et si la mort n’était plus ce qu’elle était grâce à la ro-

botique ? C’est ce qu’explique Maxime Derian, cher-

cheur sur l’impact des technologies numériques et

les mutations des sociétés industrielles en terme

de santé, d’économie et d’environnement, dans un

entretien pour Arte « À terme, certains adeptes du

[transhumanisme] prônent la création d’un posthu-

main, une version améliorée du cerveau actuel que

l’on pourrait mettre sur une puce et transférer d’un

corps à l’autre »58. Malgré que ce scénario semble tout

droit sorti d’un récit de science-fiction, nous pour-

rions un jour être capable de ressusciter nos défunts.

C’est ce que propose la fondation Américaine Alcor

Life Extension, qui propose de conserver le corps de

défunts fortunés pour les « ressusciter » si la tech-

nologie le permet un jour. Nous avons vu plus haut

l’exemple Joshua Barbeau, un informaticien Canadien

qui a créé un chatbot entraîné avec les données de sa

petite amie décédée, et si ce projet allait plus loin en

créant un robot humanoïde imitant le défunt ?

C’est le projet « Digital Shaman » qu’a imaginé l’ar-

tiste japonaise Etsuko Ichihara en mettant au point

un concept de robot à l’effigie d’un défunt pour per-

mettre aux proches de dire adieu à la personne, en

douceur: « Grâce à une imprimante 3D, un masque

réalisé à partir d’une photo du défunt peut être

confectionné et utilisé sur l’un des deux robots,

Pepper ou Nao59. Une fois programmé, il est prêt à

accompagner la famille dans sa douleur. ». Il devient

alors possible de partiellement dialoguer avec le

défunt grâce notamment au fait que le robot est

capable d’évoquer quelques souvenirs.

58→ « Corps augmenté: jusqu’où peut

on aller ? », Arte, 2019

59→ « Deux robots assistants

de la société Softbank

vivre en compagnie des robots Comment le mone pourrait se redessiner?

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Exemple de masque imprimé en 3D sur Pepper pour le projet Digital Shaman

Exemple de masque imprimé en 3D sur Nao pour le projet Digital Shaman

vivre en compagnie des robots Comment le mone pourrait se redessiner?

Comment le mone pourrait se redessiner?

vivre en compagnie des robots

Mais pour l’artiste ce robot n’a pas pour vocation de

remplacer éternellement le défunt, en effet « la durée

de vie » du robot n’est que de 49 jours afin de respec-

ter les croyances bouddhistes qui veut que l’âme du

défunt reste autour de ses proches durant 49 jours.

Pour elle le robot « est davantage là en qualité d’exu-

toire, pour permettre à la personne en deuil d’éva-

cuer son chagrin et de dire au-revoir. ». Ce projet

malgré les questions éthiques qu’il soulève, pose un

regard assez poétique sur la robotique et la mort,

de plus il ne laisse pas croire qu’une personne est

éternelle, il questionne aussi la robotisation de nos

rites et coutumes. C’est ce qu’interroge l’épisode 1 de

la saison 2 de la série Black Mirror intitulé « bientôt

de retour » (« be right back »). Cet épisode met en

scène une jeune veuve qui découvre une offre en

ligne permettant de créer un simulacre de son mari

à partir de ses traces virtuelles. Cet épisode met

surtout en lumière l’impossibilité du deuil lorsque

s’entrecroisent IA et amour. Néanmoins l’expérience

devient insupportable car cet être robotique n’est

pas son mari, les détails ne sont pas présents, il ne

respire pas, n’a pas d’humour. Ce récit propose un

regard critique de ce que pourrait être la présence de

deadbot dans notre quotidien, car, malgré le réalisme

physique ces êtres ils ne seront jamais « capables

d’esprit critique, d’émotions, d’intuition et d’états

d’âme, à moins de recopier le déjà-vécu. Nos esprits

pourront survivre à nos corps biologiques mais pour

tourner en rond dans le passé. » comme l’explique

justement Laurence Devillers dans son livre Les

robots émotionnels.

Image issue de l’épisode de Black Mirro « Be right bax »

La robotique, potentiel d’un futur optimiste?

vivre en compagnie des robots

Nous avons pu voir jusqu’à maintenant que la ro-

botique représente de nombreux enjeux éthiques

au vu des travers sociétaux qu’elle pourrait engager.

Malgré tout, ces entités représentent de nombreux

bénéfices pour notre vie. Mais ne pourrions-nous

pas voir dans les robots un espoir qu’ils portent des

valeurs positives porteuses de changements béné-

fiques pour la société ?

② POTENTIEL

D’ÉVOLUTION FAVORABLE,

LA ROBOTIQUE PEUT-

ELLE ÊTRE UN MOYEN DE

PRÉSENTER UN FUTUR

OPTIMISTE ?

vivre en compagnie des robots La robotique, potentiel d’un futur optimiste?

La robotique, potentiel d’un futur optimiste?

vivre en compagnie des robots

C’est ce qu’avait imaginé Donna Haraway dans son

Manifeste cyborg paru en 1984, et traduit en 2002

en français par Nathalie Magnan. Tout d’abord,

pour saisir tout l’enjeu de ce texte il est nécessaire

de comprendre que Haraway, parle de la cyborg au

féminin et non du cyborg. Elle propose une réflexion

ironique des femmes dans le circuit intégré qu’elle

décrit comme des cheffes de familles puisque les

hommes ont été chassés de leur travail par la robo-

tique. Désormais la société repose sur ces femmes.

Haraway construit la figure de la cyborg comme un

composite socio-economico-physique, non pas faite

de métal, mais comme des êtres composées de tas de

caractéristiques qui peuvent s’unir. Chez Haraway60

la cyborg interroge le présent, pétrit les « rapports

de pouvoir » que sont le patriarcat, le capitalisme et

le colonialisme. Elle trace une « cartographie » de la

réalité corporelle et sociale pour les femmes au XXe

siècle. Elle propose une orientation féministe pour

l’avenir en prononçant que le cyber-espace doit s’af-

firmer comme un lieu défait de l’hégémonie mascu-

line. Ses travaux, qui appellent à saisir les possibilités

d’émancipation offertes par les technosciences, ont

largement inspiré les mouvements cyberféministes.

Le cyberféminisme est un mouvement fémnisiste

prenant ses sources dans l’arrivée des nouvelles

technologies dans les années 80. Comme le préco-

nise Haraway ce mouvement a pour vocation de faire

du numérique un térritoire préservé de la domina-

tion masculine. Ce courant s’ancre dans les travaux

de Haraway, mais aussi dans ceux du collectif austra-

lien VNS Matrix, qui publie en 1991 son « Manifeste

cyberféministe pour le XXIe siècle », rédigé par l’ar-

tiste canadienne Nancy Paterson et la théoricienne

britannique Sadie Plant.

60→ HARAWAY Donna, Manifeste

cyborg, édition Exils, traduit en 2002

par Nathalie Magnan, 1984

A billboard based on the manifesto shown on the side of Tin Sheds Gallery, Sydney, in 1992. Photo: VNS Matrix.

vivre en compagnie des robots La robotique, potentiel d’un futur optimiste?

La robotique, potentiel d’un futur optimiste?

vivre en compagnie des robots

En 2015 le collectif Laboria Cuboniks publie son ma-

nifeste, Xenofeminism: A Politics for Alienation. L’enjeu

est désormais de passer de la théorie à la pratique,

en définissant des moyens d’action pour mettre les

technosciences au service des objectifs féministes.

« Le xénoféminisme estime que l’ordre social qui nous

est imposé nous oppresse, car il génère des divisions

(fondées sur le genre, la classe sociale ou la race) et

par conséquent crée des conditions idéales pour une

discrimination (. . . ) Les xénoféministes discutent de

la façon dont on pourrait changer les objectifs des

technologies existantes pour les rendre plus utiles

à la société et, surtout, pour qu’elles ne puissent

pas être utilisées comme un outil de discrimination

sexuelle. »61

De nombreux mouvements féministes ont donc

tenté, et continuent de mener des actions pour s’em-

parer des technosciences et déployer la pensée de

Donna Haraway. Elle pense par la figure, elle propose

de nouveaux personnages pour créer de nouvelles

mythologies, elle s’entoure d’un « Kin group of femi-

nist figures » susceptible de nous conduire ailleurs.

C’est donc là toute la force de la cyborg proposé par

Haraway, c’est la possibilité de construire un monde

post-genre sans binarité naturel/artificiel, corps/

esprit, homme/femme, physique/non physique,

humain/animal, mais plutôt penser comme une

hybridation, comme un composite socio-economi-

co-physique. Elle efface les frontières tout en les af-

firmant, en raisonnant par la cyborg, en faisant entrer

l’un dans l’autre la cybernétique et l’organisme. Le

cyberféminisme a participé à montrer que le genre

sert d’accès critique à la pensée sur la représentation

du monde qu’on peut se faire. Le genre n’est pas à

éloigner des problématiques liées à la robotique. Le

questionner peut être un moyen d’offrir des perspec-

tives d’un monde plus inclusif et équitable pour tous.

Il se pourrait même que la robotique commence déjà

à faire ses preuves là-dessus.

61→ CUBONIKS Laboria, Xeno

Feminism: A Politics for Alienation,

édition Verso, 2018

Dans le podcast « comment converser avec les

machines parlantes »62 de France culture, Alexei

Grinbaum, physicien et philosophe, membre du

Comité National pilote d’éthique du numérique

(CNPEN) et co-rapporteur du rapport « Agents

conversationnels : enjeux éthiques » évoque le poten-

tiel que pourrait avoir l’intelligence artificielle à nous

faire effacer les pronoms genrés de notre langage. En

effet lorsque l’on commence à taper une recherche

la machine la complète pour nous, les concepteurs

ont éliminé les pronoms genrés pour ne pas froisser

l’utilisateur. Par cette habitude nous pourrions nous

aussi nous mettre à penser sans ce lexique de mots

genrés. Rendre la robotique plus mixte dans tous

ces acteurs ne pourra être que bénéfique pour notre

société future. Néanmoins, cela serait une utopie de

croire qu’une société robotique serait d’une harmonie

parfaite. La présence des robots dans notre quotidien

pourrait creuser les inégalités sociales. En effet l’arri-

vée massive de robots dans notre quotidien pourrait

être accompagnée de pertes d’emplois, d’inégalité face

à leurs acquisitions, d’une hyper surveillance, d’une

croissance démesurée. . . Mais surtout ils pourraient

être à l’origine de pertes de liens sociaux entre les indi-

vidus. En effet, le marché des personnes isolées repré-

sente une part importante de la robotique. Les robots

compagnons pourront tout autant combler un vide

comme nous isoler encore plus en nous entraînant

à vivre seulement en leurs présence. C’est ce qu’ex-

plique Jean Ellul en 1990 dans La technique ou l’enjeu du

siècle: notre société se transforme, elle évolue, comme le

formule Serge Tisseron dans son livre Le jour où mon

robot m’aimera « une évolution qui mène inexorable-

ment vers un homme de plus en plus enfermé dans la

solitude par le travail d’un côté, et par des formes de

distraction toujours plus génératrices d’isolement de

l’autre. Les robots ne feraient alors qu’ajouter une di-

mension supplémentaire à cette situation en invitant

les hommes à préférer toujours plus les illusions pro-

grammées avec des machines aux relations difficiles

avec leurs semblables. »63

62→ KLEIN Etienne, « Comment converser avec

les machines parlantes ? » France Culture, 2021,

avec Alexei Grinbaum, physicien et philosophe,

membre du Comité national pilote d’éthique du

numérique et co-rapporteur du rapport « Agents

conversationnels :enjeux éthiques ».

63→ KLEIN Etienne, « Comment converser avec

les machines parlantes ? » France Culture, 2021,

avec Alexei Grinbaum, physicien et philosophe,

membre du Comité national pilote d’éthique du

numérique et co-rapporteur du rapport « Agents

conversationnels :enjeux éthiques ».

Conclusion

vivre en compagnie des robots

101

vivre en compagnie des robots La robotique, potentiel d’un futur optimiste?

100

Justine Emard, Soul Shift, 2018, vidéo, 6 min, avec Alter 1 et Alter 2, développés par Ishiguro Lab,

université d’Osaka et Ikegami Lab, université de Tokyo Photo: VNS Matrix.

Vivre en compagnie des robots a la faculté de nous

donner l’impression de nous regarder dans un miroir.

On voit en eux ce que nous sommes, ils incarnent nos

rêves, nos envies, nos fanatsmes et notre essence

même. Par ce biais, ils nous rappellent sans cesse que

nous devons être vigilant quant à leur conception et ce

que leur compagnie implique pour nous en tant qu’in-

dividu et société. Car nous avons vu qu’il est aisé de

se laisser fasciner par ces êtres au point d’en arriver

à des comportements déviants. S’il est avéré que ces

machines ne peuvent pas ressentir des émotions, ce

sont des nôtres dont nous devrons être vigilant. Pour

ce faire, il paraît décisif de se saisir dès à présent des

enjeux de la robotique au profit d’un sens critique.

Il est évident que c’est aux fabricants eux-mêmes de

s’orienter vers une démarche plus éthique en s’éloi-

gnant d’une folie créatrice. Les robots ne doivent pas

être l’incarnation de nos vices, mais doivent être ca-

pables de transmettre des valeurs positives et inclu-

sives. Ce n’est qu’avec ces critères que notre vie en

leurs compagnies peut être favorable. Les robots nous

serviront très probablement de signal nous alertant

sur les dérives de la société. Il reste à espérer qu’ils ne

les banalisent pas en les rendant encore plus accep-

tables, et qu’ils ne créent pas des nouveaux modèles

de discrimination, de manipulation et de violence.

Voilà ce qu’est peut être l’enjeu de la robotique de

demain, accepté qu’elle soit source de de grands béné-

fices autant que de grandes insécurités. C’est pourquoi

il apparaît favorable de créer des nouvelles manières

de communiquer avec les robots, d’être dans une

forme d’échange mutuel, pour que nous ne leur délé-

guons pas notre vie, mais pour qu’ils soient une nou-

velle source d’évolution sur ce que nous sommes.

CONCLUSION

Comme le conclut Laurence

Devillers elle-même « Il sera

nécessaire de remettre la

science et la recherche au

cœur de la cité et de travailler

dans un écosystème

pluridisciplinaire avec des

industriels, des chercheurs

et des politiques pour

anticiper les conséquences

des machines émotionnelles

dans la société. »64.

64→ DEVILLERS Laurence,

Les robots émotionnels: Santé,

surveillance, sexualité. . . : et

l’éthique dans tout ça ?

Conclusion

vivre en compagnie des robots

103

vivre en compagnie des robots Conclusion

102

Bibliographie

vivre en compagnie des robots

105

vivre en compagnie des robots Bibliographie

104

vivre en compagnie des robots

CARPENTER Julie, Culture and

Human-Robot Interaction in

Militarized Spaces: A War Story,

édition Routledge, 188 pages , 2015

HARAWAY Donna, Manifeste

des espèces compagnes, édition

Flammarion, traduit par Jérôme

Hansen, 168 pages, 2006

BENSOUSSAN Alain, DARLING

Kate, GANASCIA Jean-Gabriel,

CONSTANTINIDES Yannis, En

compagnie des robots, édition

Premier Parallèle, 130 pages, 2016.

HARAWAY Donna, Manifeste

des espèces compagnes, édition

Flammarion, traduit par Jérôme

Hansen, 168 pages, 2006.

DEVILLERS Laurence, Les robots

émotionnels: Santé, surveillance,

sexualité. . . : et l’éthique dans tout

ça ?, édition L’Observatoire Eds

De, 272 pages, 201

GIRARD Agnès, Un désir d’humain,

Les love doll au Japon, édition

Belles lettres, 376 pages, 2016.

Bibliographie

vivre en compagnie des robots

107

vivre en compagnie des robots Bibliographie

106

Conclusion

⏩ HARAWAY Donna, Manifeste

cyborg, édition Exils, traduit en

2002 par Nathalie Magnan, 333

pages, 1984

⏩ MINSKY Marvin, The Society

of Mind, édition Simon and

Schuster, traduit par Jacqueline

Henry, 270 pages, 1986

⏩ MUNIER Brigitte, Robots : Le

mythe du Golem et la peur des

machines, édition La Difference,

300 pages, 2011

⏩ SIMONDON Gilbert, Du mode

d’existence des objets techniques,

édition Aubier, 368 pages, 1958

⏩ TISSERON Serge, Le Jour où

mon robot m’aimera, édition Albin

Michel, 208 pages, 2015

⏩ CUBONIKS Laboria,

Xeno Feminism: A Politics for

Alienation, édition Verso, 96

pages, 2018

vivre en compagnie des robots

108

Filmographie

⏩ PROYAS Alex, I Robot,

film couleur, 1h55, produit

par Davis Entertainment,

Laurence Mark

Productions, Overbrook

Entertainment, Canlaws

Productions

Mediastream IV, 2004.

⏩ CAMERON James,

Terminator, (Titre ori-

ginal : The Terminator),

film couleur, 1h47,

produit par Hemdale

Film Corporation, Pacific

Western Productions,

1984.

⏩ JONZE Spike, Her,

film couleur, 2h06,

produit par Annapurna

Pictures

2013

⏩ LUCAS Georges, Star

Wars (9 films), films

couleur, 2h10, produit

par Disney,

1977-2019

Filmographie

vivre en compagnie des robots

109

⏩ HARRIS Owen, Black

Mirror: Be right Back, film

couleur, 0h49, saison 2

épisode 1, Netflix, 2013

⏩ JEUNET Jean-Pierre,

Big Bug, film couleur,

1h51, Eskwad; Gaumont,

2022

⏩ JSCOTT Ridley,

Blade Runner, film

couleur, 1h57, The Ladd

Company, 1982

⏩ VILLENEUVE Denis,

Dune, film couleur, 2h35,

produit par Legendary

Picture, 2021

sitographie  articles

vivre en compagnie des robots

111

vivre en compagnie des robots sitographie  articles

110

 BOURQUIN Jimmy,

« Histoire des animaux

domestiques : pourquoi

nous ressemblons-nous

autant ? », France Inter,

2020

https://www. fran-

ceinter. fr/histoire/

histoire-des-ani-

maux-domes-

tiques-pour-

quoi-nous-ressem-

blons-nous-autant

 BEN Lydia, « Petit

détour par la vallée de

l’étrange », CNRS le

journal, 2016

https://lejournal. cnrs.

fr/articles/petit-de-

tour-par-la-vallee-de-

letrange#footnote3_

js1uwkp

 TIMMINS Beth,

« NEW SEX ROBOTS

WITH ‘FRIGID’

SETTINGS ALLOW

MEN TO SIMULATE

RAPE », The

Independent, 2017

https://www. in-

dependent. co. uk/

life-style/sex-robots-fri-

gid-settings-rape-simu-

lation-men-sexual-as-

sault-a7847296. html

 LEGLU Dominique,

« Attention, un chatbot

est un robot et pas un

être humain », Sciences

Avenir, 2021

https://www.

sciencesetavenir.

fr/high-tech/web/

les-enjeux-ethiques-

des-chatbots_158994#x-

tor=CS2-37-[Atten-

tion%2C%20un%20

chatbot%20est%20

un%20robot%20

et%20pas%20un%20

être%20 humain]

 BRENDT Rose,

« The Sad Story Of A

Real Life R2-D2 Who

Saved Countless Human

Lives And Died »,

Pedestrian, 2011

https://www. gizmodo.

com. au/2011/12/

the-sad-story-of-a-

real-life-r2-d2-who-sa-

ved-countless-human-

lives-and-died/

 B DESAUNAY

Dominique, « Les robots

sont-ils nos amis ? » Rfi,

2014,

https://www. rfi. fr/fr/

emission/20141206-ro-

bots-amis-ste-

phen-hawking-dispari-

tion-humanite-intelli-

gence-artificielle

 AFP, « Une intelli-

gence artificielle com-

plète pourrait mettre fin

à la race humaine », la

Tribunre, 2014

https://www. latri

bune. fr/technos-me

dias/20141203trib474c5

f124/une-intelligence-

artificielle-complete-

pourrait-mettre-fin-a-la-

race-humaine-stephan-

hawking. html

 D. COT Bruno,

interview - « Intelligence

artificielle: « Restons

maîtres des robots » »,

l’Express, 2015, avec

Serge Tisseron

https://lexpansion.

lexpress. fr/high-tech/

restons-maitres-des-ro-

bots_1711529. html

 SUTTER Béatrice,

« Ces robots sont faits

pour l’amour, et vous

allez adorer les aimer »,

l’ADN, 2018

https://www. ladn. eu/

tech-a-suivre/data-big-

et-smart/ces-robots-

faits-pour-lamour/

 LEGROS Claire,

« Un « serment d’Hippo-

crate » pour les profes-

sionnels de l’intelligence

artificielle », Le Monde,

2015

https://www.

lemonde. fr/festival/

article/2018/07/05/

un-serment-d-hippo-

crate-pour-les-pro-

fessionnels-de-l-in-

telligence-artifi-

cielle_5326218_4415198.

html

 GANASCIA Jean

Gabriel, « Du bon usage

de l’expression « éthique

by design » », Sciences

avenir, 2022

https://www. science-

setavenir. fr/high-tech/

informatique/chro-

nique-du-bon-usage-de-

l-expression-ethique-by-

design_16024

 TRENTESAUX

Damien, RAULT Raphaël

« Ethique des robots in-

telligents dans la société

humaine: Regards

croisés issus du droit,

de la science et de la

littérature »

https://hal. archives-ou-

vertes. fr/hal-03015138/

document

 EDIP Alexandra

« Les robots, une chance

pour l’homme ? »,

Capital, 2017

https://www. capital.

fr/economie-politique/

les-robots-une-chance-

pour-l-homme-

1223830#2mbs6

 IMAD Joachim, « Aux

origines du projet transhu-

maniste », 2020, le Figaro

https://www. lefigaro.

fr/vox/histoire/aux-ori-

gines-du-projet-transhu-

maniste-20200320

 BOYER Philippe,

« Fusion de l’humain

et de la technique :

demain, l’immortalité »,

LaTribune, 2014

https://www. latribune.

fr/opinions/blogs/

homo-numericus/

fusion-de-l-humain-et-

de-la-technique-demain-

l-immortalite-571852.

html#_ftn2

 DEMEURE Yohan,

rédacteur scientifique,

« Le robot sexuel

Samantha devient un

produit de masse en

Europe… » Science Post,

novembre 2017

https://sciencepost. fr/

robot-sexuel-saman-

tha-devient-produit-de-

masse-europe/

 « Corps augmen-

té: jusqu’où peut-on

aller ? », Arte, 2019

https://www. arte. tv/

fr/articles/corps-aug-

mente-jusqu-ou-peut-

on-aller

sitographie  articles

vivre en compagnie des robots

113

vivre en compagnie des robots sitographie  articles

112

vivre en compagnie des robots

 La vallée de l’étrange,

Masahiro Mori

https://fr. wikipedia.

org/wiki/Vallée_

de_l%27étrange#cite_

note-HANSON-6  Fiche produit

T-HR3 https://www.

toyota. fr/startyourim-

possible/t-hr3

 Fiche produit

T-HR3 https://www.

toyota. fr/startyourim-

possible/t-hr3

 HANSON David,

OLNEY Andrew,

PRILLIMAN Steve,

MATHEWS Eric

, ZIELKE Marge,

HAMMONS Derek,

FERNANDEZ Raul,

STEPHANOU Harry ,

« Upending the Uncanny

Valley », 2005,

https://www. aaai. org/

Papers/AAAI/2005/

RBC05-007. pdf

 ELIZA

http://eliza. levillage.

org/index. html

 Data for good

https://dataforgood. fr

 Animé par

Augustin, Saison 2 -

épisode 5 « Nos robots

méritent-ils d’obtenir

des droits ? », IAM

TECHNOCURIOUS,

2020 avec Charles

Corval

https://www. iam-

technocurious. com/

s02ep05-robot

 Animé par

VAN REETH Adèle

et MOSNA-SAVOYE

Géraldine, « La langue

souple et agile de ma

chienne a nettoyé les

tissus de mes amyg-

dales », France culture,

2021, avec Vinciane

Despret

https://www.

franceculture. fr/

emissions/les-che-

mins-de-la-philosophie/

les-chemins-de-la-phi-

losophie-du-jeudi-16-de-

cembre-2021

 Animé par

GARDETTE Hervé, « Les

robots ont-ils des préju-

gés ? » France Culture,

2018, avec Cedric Villani

et Laurence Devillers,

autrice de « Des robots

et des femmes »

https://www. france-

culture. fr/emissions/

du-grain-a-moudre/

les-robots-ont-ils-des-

prejuges

 Animé par KLEIN

Etienne, « Comment

converser avec les

machines parlantes ? »

France Culture, 2021,

avec Alexei Grinbaum,

physicien et philosophe,

membre du Comité na-

tional pilote d’éthique du

numérique et co-rappor-

teur du rapport « Agents

conversationnels :enjeux

éthiques ».

https://www. france-

culture. fr/emissions/

science-en-questions/

comment-converser-

avec-les-machines-par-

lantes

sitographie  podcast

vivre en compagnie des robots

115

vivre en compagnie des robots sitographie  sites

114

sitographie  articles

vivre en compagnie des robots

sitographie  podcast

Mémoire réalisé sous la direction des enseignantes

Laure Siéfert et Anne Mortal, au sein du DSAA Design Graphique et Narration

Multimédia.

Lycée Jacques Prévert de Boulogne-Billancourt.

Session 2022