Les robots doivent-ils obéir à l’humain en toute circonstance ?
Lors du prochain numéro, Planète Robots va intégrer une nouvelle rubrique. Nathalie Nevejans va désormais nous proposer une approche de l’éthique face à la robotique. Et pour étayer ses écrits, elle vous proposera un sondage dans les semaines qui précéderont la parution du magazine où elle collectera vos réponses afin de les analyser dans son article. N’hésitez pas à commenter les raisons de votre réponses, dans l’espace approprié !
Publicité
Tout acte qui mets en danger la vie d’une personne ou d’un animal qui ‘mne représente pas une menace avérée doit ètre désobéi
Les trois lois de la robotique de M Asimov
Tout est dit, mr asimov a résolu votre question
Un robot doit respecter les lois d’Asimov.
Le robot doit refuser d’obeir du moment qu’il comprend que l’ordre le pousse à transgresser la loi, sauf en cas d’urgence afin de sauver des vies.
Malheureusement, Isac Asimov nous à bien démontré que quelques soient les lois inculquées à un robot, il y aura toujours des difficultés d’interprétation ou des contradictions qui feront que le robot commetra des erreurs.
Il n’y aura pas de robots parfaits, mais s’ils peuvent se protéger en évitant de servir d’arme, c’est déjà bien.
Le robot doit obéir à l’homme en toutes circonstances
Tout dépends de ce que l’on entend par le terme humain, s’agit-il d’un humain, ou des humains, en tout cas, pour moi les robots doivent toujours obéir aux humains, dans le sens où ils ne devrons jamais hésiter entre le bien d’un ou des robots et le bien d’un ou des humains. L’absolu priorité doit être donné aux humains, jamais aux robots.
Il y aura des millions de situations, où un robot, propriété d’un humain ou d’une personne moral, obéira à son propriétaire, il est possible que cet ordre soit préjudiciable à un ou d’autres humains, dans ce cas (et en toutes circonstances) l’ordre doit être enregistré très distinctement ainsi (dans l’hypothèse où l’IA du robot perçoit un préjudice possible) que la confirmation de cet ordre par le propriétaire. Ceci afin de délimiter le champ des responsabilités entre humain et robot/IA. Dans le but de pouvoir, si le cas ce présentait, faire, au mieux une correction, au pire neutraliser, l’ensemble des robots utilisant la même IA.
Cette question pourrait sembler plutôt fermée à première vue, j’ai tout de suite envie de répondre un bon gros OUI, est-ce à cause d’une peur de l’inconnu, d’une influence des films de science-fiction (certains sont d’ailleurs passés de la s-f à la réalité en quelques décennies!)?
Et puis finalement, je ne pense pas que les robots devraient obéir aux humains en toute circonstance, et loin de là!
Par exemple, les robots industriels sont programmés pour être efficaces en toute sécurité, un ordre ou une modification de programme pourrait tout faire basculer.
Autre exemple, les robots informatiques, les Bots. Certains sont dotés de pseudo-IA et de fonctions d’apprentissage et deviennent toxics au contact de certains groupes ou personnes mal intentionnées.
Et si nous parlons des robots d’accompagnement commençant à voir le jour; les humanoïdes comme on peut les voir dans certains films à la I-Robot et compagnie, il va falloir faire preuve d’une grande rigueur lors de la définition des conditions d’apprentissage des robots.
Comment définir ce qui est juste et ce qui ne l’est pas? Ce que les robots apprendront ou refuseront d’apprendre? Comment juger d’un degré d’urgence ou d’un ordre donné dans la précipitation? Dans quelles limites un ordre donné à un robot doit il être réalisé? Qui aura autorité pour en débattre et en décider? Les robots industriels sont aujourd’hui dotés de modules de sécurité, surveillant et validant les différents comportements de nos amis mécaniques, réglés en accord avec les différentes normes relatives à la sécurité et à l’interaction homme/machine. Tous les types de robots, et encore plus ceux destinés au grand public, devront être dotés nativement de modules et ordinateurs de contrôles régissant leur faits et gestes (et pensées…). Une sacrée responsabilité pour nos élus, une démarche incontournable si nous voulons pouvoir palier au vieillissement de la population en toute sérénité, et surtout, il va falloir une grosse dose de bon sens 🙂 Et puis qui sait, les robots font peut être partie d’une solution permettant aux humains, et surtout à notre planète de mieux se porter!