La robocratie est-elle possible (et souhaitable) ?

Depuis plus de cinquante ans, nous travaillons à automatiser les tâches les plus répétitives grâce aux technologies informatiques et robotiques. Les dernières décennies ont également permis d’automatiser des activités qui demandent plus d’autonomie et de décision. L’intelligence artificielle prend de plus en plus de place dans les applications informatiques qui nous entourent. Mais sommes nous prêts à laisser les robots prendre des décisions qui influeraient sur notre quotidien ? La robocratie est-elle souhaitable ?

La théorie de la robocratie

Le postulat de la robocratie a maintes et maintes fois été employé par les auteurs de science-fiction… Il prétend qu’un ordinateur ne se trompe jamais, tant que sa programmation apparaît fiable et sans erreur. Si on lui apporte assez de données, il saura résoudre les problèmes que nous lui aurons posés. Prenons une puissance de calcul sans commune mesure avec ce qui se fait actuellement — une Intelligence artificielle forte —, entrons dans sa mémoire les principes qui régissent le bonheur des hommes (paix, santé, amour, nourriture, socialisation, connaissance, etc.). Ensuite, ajoutons y les bases du fonctionnement actuel de notre société (institutions, morale, contraintes, vie politique…). Le reste lui appartient : en gérant au mieux toutes ces données, elle devra faire en sorte que les hommes soient heureux !

Une fois en possession de toutes les cartes, nous pouvons espérer que l’Intelligence artificielle se mettra à générer des calculs d’une complexité astronomique pour rendre chaque être humain vivant sur le territoire qu’elle doit administrer le plus heureux possible. Ce qu’aucun politicien n’a jamais réussi à faire jusqu’à aujourd’hui (et pour cause !), elle doit le faire maintenant. Et pourra travailler au cas par cas et non selon des lois générales qui laissent toujours en rade des cas particuliers que l’on ne sait pas traiter. Le robot ne pourra pas être corrompu par l’argent, la soif du pouvoir ou le sexe. En revanche, il fera respecter ses décisions sans la moindre compassion

Une robocratie est-elle souhaitable ?

Comme nous venons de le voir, pour que cela marche, il faudrait faire absolument confiance à l’Intelligence artificielle, qui ne se révélera pas forcément tolérante face à nos petites personnalités. Elle s’acharnera à faire son boulot (nous rendre heureux, quitte à exercer sur nous une autorité paralysante des plus dangereuses). Comme dans le cas d’autres régimes politiques, elle devra être comprise et admise par tous pour fonctionner. D’où la pléthore de romans d’anticipation, reprenant cette idée d’un gouvernement géré par une ou plusieurs Intelligences artificielles, qui emploient des méthodes passablement nauséabondes pour arriver à procurer un certain bien-être aux humains qui n’ont pas été anéantis.Dans le film Le cerveau d’acier (Joseph Sargent, 1970), adapté d’un roman de Dennis Felthman

Jones (1966), deux supercalculateurs qui surveillent le domaine nucléaire des États-Unis et de la Russie s’allient pour prendre le pouvoir sur toute la planète et affirment leur volonté de supprimer les maladies, la famine, et la surpopulation. Quiconque conteste l’omnipotence de ces I.A. déclenche des représailles qui éliminent des milliers d’individus. James Cameron se serait lui aussi inspiré du bouquin de Jones pour créer la saga Terminator, dans laquelle le superordinateur Skynet décide d’éradiquer toute vie humaine une fois qu’il a pris le pouvoir…

Tout cela implique qu’il faudra être extrêmement vigilant devant l’évolution de l’aide à la décision au plus haut niveau, dans les prochaines années. Des Intelligences artificielles joueront sûrement un rôle important dans nos gouvernements, comme soutiens et initiatrices d’idées. Veillons bien à avoir toujours le dernier mot !

La robocratie est déjà en marche !

Dans le monde de l’entreprise, la prise de décision est déjà plus ou moins abandonnée aux outils informatiques (du moins comme consultants). Le data mining ou fouille de données consiste à extraire des connaissances à partir de données, de façon automatique. L’utilisation industrielle ou opérationnelle de ce savoir dans le monde professionnel permet de résoudre des problématiques très diverses, allant de la gestion de la relation avec le client à la maintenance préventive, en passant par la détection des fraudes ou encore l’optimisation des sites Web. L’informatique décisionnelle désigne les moyens, les outils et les méthodes qui permettent de collecter, consolider, modéliser et restituer les données (matérielles ou immatérielles) d’une entreprise, pour offrir une aide à la décision et procurer aux responsables de la stratégie d’entreprise une vue d’ensemble de l’activité traitée.

Dans le domaine militaire, les Intelligences artificielles sont, en cas de conflit, utilisées comme assistants dans la prise des décisions en matière de stratégie. Les ordinateurs possèdent toujours un petit temps d’avance sur les événements, prévoient au mieux toutes les options dont l’ennemi dispose dans son camp et peuvent ainsi tenter de mettre en échec leur exécution au moment le plus propice. À mi-chemin entre la stratégie propre au jeu vidéo (RTS ou Real Time Strategy) et les échecs, les décisions militaires relèvent du même niveau. D’ailleurs, que ce soit en matière de RTS ou d’échecs, les ordinateurs ont déjà montré leur supériorité face aux cerveaux humains les mieux préparés.

Sommes nous prêts à passer la main ?

En fait — pas le moins du monde ! Un exemple parlant : aujourd’hui, les avions sont prêts à voler sans l’intervention d’un pilote. La technologie est là et l’on sait bien que la plupart des accidents sont causés par des erreurs humaines (que l’ordinateur de bord aurait très bien pu éviter). Mais si l’on décidait de laisser les avions se piloter tout seuls, les compagnies perdraient une bonne partie de leur clientèle. Car l’esprit humain n’est pas encore prêt à laisser une machine décider de son destin.

Toutefois dans le domaine de la chirurgie, nous pourrions très bien faire confiance à un robot pour nous opérer en solo : il ne tremble pas, n’a pas de problèmes intimes et sait parfaitement ce qu’il a à faire. Mais même s’ils sont déjà présents dans les blocs opératoires, les robots restent des outils et ne sont pas près d’acquérir leur autonomie — non du fait de leur incapacité mais à cause de la crainte que leurs aptitudes nous inspirent.

Article repris de Planète Robots n°10 de juillet 2011.

L’ensemble des illustrations proviennent de prompts sur l’IA Stable Diffusion.