Google cherche le moyen d’empêcher les robots de prendre le pouvoir.
5 (1)

Et si un jour les robots prenaient le pouvoir ?

Avec le développement de l’intelligence artificielle, celle des machines, la question est de moins en moins théorique. Cette crainte n’est pas neuve. Elle a déjà inspiré des œuvres de fiction. Vous vous souvenez de ce film de 1968 ou un système informatique ultra développé tente de prendre le contrôle d’un vaisseau spatial.  Il se débarrasse d’un astronaute en l’envoyant dans l’infini intersidéral. C’est un autre membre de l’équipage qui parvient à le désactiver, malgré ses supplications. Les derniers mots que prononce l’ordinateur: « J’ai peur ! Mon esprit s’en va, je le sens». HAL, c’est son nom, n’est plus vraiment une machine. Vous savez de quel film il s’agit : 2001 Odyssée de l’Espace de Stanley Kubrick, avec la célèbre musique de Richard Strauss

Un putsch contre l’humanité

50 ans plus tard on n’en est pas encore là.  Mais on prend la menace de plus en plus au sérieux. Pas celle d’un putsch contre l’Humanité. Quoique… Mais plutôt d’une perte de contrôle par l’homme de la capacité d’apprentissage des machines. Un des plus grands scientifiques mondiaux, Stephen Hawking, lançait déjà cet avertissement en 2014 dans un entretien à la BBC : « Les formes primitives d’intelligence artificielle que nous avons déjà sont très utiles. Mais le développement d’une intelligence artificielle complète pourrait mettre fin à l’Humanité parce qu’elle décollerait seule, elle se redéfinirait de plus en plus vite, et prendrait de vitesse l’intelligence humaine »

Arrêter une machine intelligente avant qu’elle n’apprenne à se piloter elle-même

On ne peut plus écarter cette hypothèse. C’est en tout cas ce qu’on pense chez Google qui est très actif dans le développement de l’intelligence artificielle, depuis son assistant personnel jusqu’aux voitures connectées. On a appris que les chercheurs de sa filiale DeepMind – ce sont eux qui ont développé l’ordinateur qui a battu le champion du jeu de Go – planchent maintenant sur un « bouton rouge » on dit aussi Kill Switch, un interrupteur tueur. Une procédure qui permettrait d’arrêter une machine intelligente avant qu’elle n’apprenne à empêcher sa désactivation et se développer de façon incontrôlée. 

On n’est en pas encore là mais autant s’y préparer. Comme le déclare au Monde un des experts de DeepMind : «Mieux vaut commencer à y réfléchir trop tôt que trop tard… »

Notez cet article.