Très intéressant interview d'un authentique fabricant de robots à propos de ce que l'on peut voir dans la série.
http://www.20minutes.fr/culture/1975951 ... de-analyseAmusant de le voir prêcher comme un esclavagiste du 19ème siècle ou un boucher du 21ème siècle sur le fait qu'il faille absolument éviter de reconnaître des droits à des "choses", sans jamais lier la question au débat d'à partir de quand une chose peut être considérée comme un être pensant (sentient being, être conscient)
Le désaccord fondamental entre Ford et Arnold porte sur la définition de la conscience…
Ne sommes-nous que de la chimie ou avons-nous une dimension métaphysique ? C’est ça, la grande question. A titre personnel, je pense qu’étant autre chose que de la chimie, on n’arrivera jamais à donner une conscience à un robot. Et surtout, un libre arbitre, ce qui est évoqué dans Westworld. Je peux programmer une conscience à mon robot, en lui disant « Si on te dit de taper sur un enfant, ne le fais pas, c’est mal », mais ce n’est pas sa conscience, c’est la mienne que j’ai projetée en lui. En ce sens, le robot a zéro libre arbitre. Son rôle est de refaire ce qui statistiquement marche le mieux, il ne va jamais sortir de routes relativement tracées.
Peut-on les aider à avoir conscience d’eux-mêmes ? Ford explique que « dans une 1ère version d’Arnold, les hôtes entendaient leur programmation sous forme de monologue intérieur, pour faire naître l’amorce d’une conscience »…
Il leur programme des acouphènes, c’est désagréable… Plus sérieusement, c’est n’importe quoi. Cette voix intérieure est toujours un programme en train de s’exécuter, ça n’éveille pas la conscience du robot du tout. Nao, quand il voyait un autre Nao, disait, « Oh ! un Nao ». Parce qu’on l’avait programmé pour. Il ne se disait pas « Oh, un autre Nao, mais comment, je ne suis pas unique, oh mon dieu, je suis une machine ! ». Après, on peut s’amuser. Les chercheurs pourraient très bien dire à un robot « Considère que tu es unique », et si le robot voit quelque chose comme lui, il se dira qu’il n’est pas unique. Mais ce doute aura été programmé par le chercheur.
Faut-il donner des droits aux robots ? Non, car les robots sont des objets. Vous allez me dire qu’on pensait ça des esclaves il fut un temps, puis des animaux il y a peu, alors pourquoi pas les robots ? Parce que ce sont des choses. A un moment dans Westworld, un des réparateurs couvre la nudité d’un robot avec une serviette et Ford lui intime de la retirer, en lui rappelant que c’est un objet : je trouve ça très bien. Nos robots n’ont pas de droits et je suis fortement convaincu qu’il faut que ça reste ainsi. Serge Tisseron raconte dans son livre ( Le jour où mon robot m’aimera, 2015) que des démineurs américains aimaient tellement leurs robots qu’ils préféraient envoyer un de leurs collègues sur une tâche dangereuse plutôt que de risquer de casser leurs robots. Il faut absolument éviter ça
***
D'abord, le problème logique est beaucoup plus simple à résoudre qu'il n'y parait : une chose devient forcément un être pensant dès lors qu'un être pensant la considère comme un être pensant - le "corps de la chose" est tout simplement celui de l'être pensant qui lui a fait une place forcément consciente dans sa tête : si vous détruisez la chose - une maison, un doudou, une oeuvre musicale qu'on ne pourra plus jamais retrouver, l'être humain qui l'aimait souffrira autant que s'il subissait la mort d'un être cher. A l'opposé, toute oeuvre, tout objet est une extension de la personne de son auteur qui la fabriqué, et l'auteur est forcément un être pensant donc doté de droits.
Ensuite, la réalité toute bête est que si les robots devenaient des citoyens, le roboticien serait dépossédé de son fonds de commerce : c'est donc pour la seule raison pécuniaire que ce roboticien fait campagne contre la reconnaissance de droits pour des robots qui manifesteraient des signes d'intelligence ou d'humanité.
C'est bien le même raisonnement qu'un boucher qui refuse des droits aux animaux parce qu'il ne pourrait plus les équarrir et revendre leur viande ; le même raisonnement qu'un chef religieux qui perdrait une source de revenu, l'impôt religieux si l'on interdisait d'égorger les moutons ou circoncire les petits garçons (qui sont censés avoir des droits humains), le même raisonnement qui permet à des pêcheurs ou des chasseurs ou des industriels d'exterminer les espèces et de détruire les environnements naturels ou les terres cultivables jusqu'aux derniers, par exemple en construisant un aéroport plus petit pour soit-disant remplacer un grand sur la dernière campagne humide de France, ou encore le même raisonnement que tiennent les vendeurs d'armes vis à vis des populations des pays dans lesquels ils organisent les guerres avec leurs amis politiciens et banquiers.
