Rechercher

Pour sûr : une IA forte bouleverserait en profondeur nos sociétés !



Interview de Nicolas Capt par Xavier Comtesse

Membre du groupe de réflexion Code-IA, Nicolas Capt est un de nos plus brillants avocats. Initiateur des journées « Artificial Intelligence Geneva Summit », il est spécialiste en droit des technologies de l’information. Il intervient régulièrement dans les médias sur des sujets ayant trait au bouleversement sociétal induit par les nouvelles technologies notamment de l’IA.

Quatre questions à notre invité :

L’IA peut-elle un jour avoir de l’empathie ou une certaine forme de conscience ?

Poser la question de l’empathie et de la conscience, c’est en réalité convoquer la notion même de vie. De fait, il n’y a pas d’empathie véritable sans souffle vital. Les robots de compagnie qui trainent leurs yeux clignotants sur roulement à bille dans les couloirs tristes des établissements médico-sociaux sont de bien piètres ersatz de l’empathie véritable. La difficulté sera toujours de distinguer ce qui relève de l’imitation (c’est le cas de toutes les IA à ce jour) de ce qui relèvera, peut-être, d’une réalité autonome. Le jour où les robots pleureront, qu’ils auront le vague à l’âme, qu’ils seront amoureux ou s’angoisseront devant l’idée de leur (non) finitude, la question se posera en d’autres termes. Il y aurait certes une forme de poésie décadente à l’avènement de telles machines mais, en toute franchise, il y a quelque chose d’éminemment inquiétant dans l’idée même de confisquer, au Créateur ou à la nature, la création d’êtres vivants auxquels nous pourrions, en théorie, être amenés à conférer des droits qui, de toute l’histoire du genre humain, n’ont été attribués qu’aux êtres humains ou, dans une moindre mesure, aux animaux.

Parler, en 2020, d’établir une Charte du droit des robots est une vaste fumisterie qui vise à émouvoir, sans substance ni raison, le chaland, et à l’émoustiller avec des frissons à bon compte. Aujourd’hui, l’intelligence artificielle dite forte n’existe tout simplement pas. A moyen et long terme, les prévisions sont évidemment plus hasardeuses mais disons que, malgré les avancées de la recherche, nous sommes encore bien loin de l’empathie et de la conscience. Si nous devions y arriver, nos sociétés humaines subiraient un choc civilisationnel d’une ampleur tout à fait inédite dont les conséquences seraient dès lors parfaitement imprévisibles.

Quel niveau d’autonomie aura-t-elle ?

La question de l’autonomie est intéressante, puisqu’une intelligence artificielle dite forte n’est évidemment pas concevable sans autonomie, tandis, qu’à l’inverse, une intelligence artificielle peut fort bien être autonome sectoriellement sans être pour autant être considérée comme une IA forte. En d’autres termes, l’autonomie est nécessaire mais pas suffisante.

Si l’on reprend le modèle classique de la manufacture d’épingles qu’Adam Smith expose dans ses « Recherches sur la nature et les causes de la richesse des nations », l’intelligence artificielle (faible) spécialisée, ce serait au fond celle qui accomplit bien la tâche spécifique, qui émoud le bout de l’épingle comme personne ou, plus impressionnant pour les foules, qui bat à plate couture l’humain au jeu de go ou aux échecs. Mais qui n’a aucune conscience de sa propre existence et est incapable de ressentir le moindre sentiment. L’intelligence artificielle forte, c’est celle qui accomplira toutes les étapes de la fabrication de l’épingle et qui, en sus, fera grève, se révoltera ou aura la vague à l’âme. La vraie autonomie entraîne avec elle la conscience de soi et tout ce qui s’ensuit. Il est illusoire de penser qu’une éventuelle IA forte ne sera qu’un robot servile, qu’il soit matérialisé ou dématérialisé.

Il y a un saut énorme entre la plus perfectionnée des IA faibles sectorielles et une IA qui ressentirait le moindre sentiment ou aurait la moindre conscience d’elle-même et que l’on pourrait dès lors qualifier, sans rougir, de forte. On abreuve actuellement le bon peuple d’IA à bon compte, on obtient les vivats de la foule pour des assistants vocaux qui sont capables de faire croire à leurs interlocuteurs qu’ils sont humains, en singeant benoîtement les silences et les « euh » de l’imperfection téléphonique de nos semblables. Or non seulement ces logiciels n’ont-ils qu’une compétence terriblement partielle (ils sont en mesure de réserver un rendez-vous chez le coiffeur ou une table au restaurant mais incapable de former d’autres requêtes basiques qui sortent de l’ordinaire) mais, en plus, ils n’ont aucune conscience de ce qu’ils font. C’est la version moderne du chien savant, sachant moult tours, mais les exécutant sans jamais chercher à les comprendre.

Les recherches fondamentales visant à faire émerger une timide IA forte, attirent moins la lumière puisqu’à l’heure actuelle, elles n’ont pas – encore – la capacité de se parer d’habits de scène et que les progrès sont, faut-il l’avouer, éminemment lents. Mais le champ de recherche est fascinant puisqu’il ne procède pas de l’imitation servile et qu’il vise à asseoir l’émergence d’une nouvelle forme d’existence sur d’autres bases.

Pour l’heure, les IA faibles mais astucieusement mises en scène ont la cote et constituent la r