Ce n’est pas de la science fiction. Le développement d’ intelligences artificielles de plus en plus évoluées et de robots humanoïdes toujours plus avancés pourrait améliorer nos vies d’une façon qu’il nous est encore impossible d’imaginer. Pourtant, les plus sceptiques et méfiants n’excluent pas une circonstance potentiellement très inquiétante, celle où l’intelligence artificielle prendrait conscience d’elle-même de telle sorte à percevoir les humains comme une menace et à vouloir les éliminer. Dans la lignée de cette scène que l’on trouverait aisément dans un film de science fiction, chez Google on est en train d’étudier une façon sûre de « débrancher » ces intélligences artificielles, dans le cas où elles désobéissent aux ordres des humains.
Intelligences artificielles: les recherches du groupe Google
Les chercheurs londoniens de DeepMind, une entreprise rachetée par Google en 2014, sont en train de collaborer avec les scientifiques de l’Université d’Oxford pour trouver la manière d’empêcher les intelligences artificielles de prendre conscience d’elles-mêmes, auquel cas elles pourraient s’affranchir du contrôle des humains sur leurs actions. Les chercheurs ont ainsi développé un réseau qui permet aux opérateurs humains de désactiver, d’éteindre ces intelligences artificielles de façon répétée et sûre, en s’assurant que ces dernières n’apprennent pas à entraver ce type d’opérations. “Si la machine s’attend à une récompense mais qu’elle est en mesure de comprendre qu’elle va être désactivée, elle résistera pour tenter d’obtenir la récompense. Notre dispositif fait en sorte que le superviseur humain soit à même de contrôler temporairement l’automate et de lui faire croire que c’est bien lui qui veut se désactiver autonomement. » Le chercheurs ont découvert que certains algorythmes comme ceux de Q-Learning peuvent être interrompus, tandis que d’autres comme les Sarsa (State-Action-Reward-State-Action, soit Etat, Action, Récompense, Etat, Action) ne peuvent pas être arrêtés, mais peuvent être aisément modifiés afin de les interrompre. Il s’agit de toute façon de machines qui devront répondre à des besoins, accomplir des tâches bien précises dont normalement un être humains doit se charger : l’utilisation de ces intelligences artificielles rendrait tout cela plus rapide, plus simple et plus sûr.
Intelligences artificielles : pour l’heure, on peut rester tranquilles
Pour l’heure, il n’existe pas d’intelligences artificielles si avancées à pouvoir représenter un souci pour le genre humain, mais dans ce secteur, la recherche progresse à un rythme tellement élevé qu’il est difficile de prédire si et quand l’humanité aura besoin de’appuyer sur le « bouton rouge » pour enclencher l’arrêt des intelligences artificielles. Le premier robot à l’apparence humaine, capable de ressentir la douleur, vient d’être créé, par exemple, grâce à une sorte de tissu nerveux dont sera recouvert le corps de ces automates de l’avenir.
A travers cette technologie, les robots auront la capacité d’éprouver trois niveaux de douleur, de les classer et, le cas échéant, d’alerter les êtres humains. D’après les chercheurs, les robots sont normalement développés dépourvus de sensibiltié afin de pouvoir effectuer des travaux que les hommes estiment dangereux, mais si dotés de la perception de la douleur, ceux-ci pourraient comporter moins de frais d’entretien et de maintien et être plus sûrs pour les humains qui travaillent en contact étroit avec eux.
Soucis à long terme
A l’avis de Nick Bostrom, directeur du The Future of Humanity Institute, les machines deviendront plus intelligentes que les hommes d’ici 100 ans et pourraient se révolter contre leurs propres créateurs. Il estime que, lorsque les intelligences artificielles auront atteint l’équivalence avec le genre humain, pas beaucoup de temps ne passera avant qu’elles deviennent super-intelligentes. Atteindre la même intelligence des humains, ça pourra prendre beaucoup de temps, mais l’étape successive de la super-intelligence viendrait juste après, d’après Bostrom.
