La semaine passée, l’entreprise Tesla a été jugée pour avoir émis une publicité mensongère en Allemagne. La manière dont la firme présentait son logiciel d’aide à la conduite, connu sous le nom de « autopilot », ne concordait pas avec le produit effectivement vendu et pouvait tromper l’acheteur lambda, amené à penser qu’il pouvait jouir d’une complète conduite automatique avec la voiture. Bien que la technologie présente une assistance à la conduite poussée, le conducteur doit encore être bien présent dans l’habitacle avec les mains sur le volant, tant pour des raisons juridiques que pour des raisons de sécurité.
Pour contextualiser cette condamnation, il est important de relever que ce tribunal est sponsorisé par des industriels et focalisé sur la régulation des pratiques anti-concurrentielles. Le secteur de l’automobile étant un marché aux enjeux colossaux, on peut comprendre la volonté des autres constructeurs de vouloir démolir l’image de voitures autonome de la marque dirigée par Elon Musk, image installée par une communication bien rôdée. Ce procès était donc un moyen d’agir sur le subconscient des potentiels acheteurs et de ne plus présenter Tesla comme le constructeur aux portes du fameux « niveau 5 » de la conduite autonome, palier décrivant des voitures pouvant se diriger sans aucune intervention humaine.
A première vue, on pourrait se dire qu’il ne s’agit que d’un enjeu de définition et d’une concurrence à faire baisser. Cependant si nous nous arrêtons à ce niveau de lecture, on ne prend pas en compte les raisons pragmatiques qui font que nous ne voyons pas encore des flottes entières de voitures sans pilotes sillonner nos villes. Cela va au-delà de la communication et occulte la puissance des techniques mises en place qui permettent déjà d’avoir un produit d’assistance de qualité. Les problèmes que rencontrent les développeurs de logiciels de pilotage automatiques sont au cœur de la problématique générale relative aux systèmes « intelligents » que nous essayons de concevoir actuellement.
Le développement de voitures autonomes n’est pas lié au développement de l’« intelligence artificielle » pour tous les acteurs du secteur. En effet, il y a d’un côté le système Lidar, qui est un système radar qui scanne en continu l’environnement autour des voitures et qui crée des cartes en haute résolution qui répertorient tous les éléments aux alentours. Ces cartes décrivent ensuite les objets que la voiture peut rencontrer et définit comment elle doit réagir. La voiture peut donc évoluer dans un environnement préparé et délimité. C’est l’approche privilégiée par Uber et Waymo. De l’autre côté il y a l’approche de Tesla basée sur des caméras, le « computer vision ». Un flux vidéo est analysé en continu pour en extraire des informations sur les éléments qui sont présents dans les images et les reconnaitre en direct. Cette approche est plus complexe car elle nécessite donc la reconnaissance d’éléments qui n’ont pas encore été rencontrés auparavant. Prenons l’exemple des panneaux STOP. Il est facile de définir dans le code source des voitures que les panneaux rouges avec un inscription blanche STOP situés sur un poteau nécessitent un moment d’arrêt. Cependant, cette règle que nous apprenons lors du passage du code de la route n’est pas toujours exacte, mais nous nous adaptons : Il peut en effet arriver le panneau ait perdu de son éclat et de sa couleur à la longue ou encore que ce signal stop soit tenu à bout de bras par une personne aidant les enfants à traverser la route sur un passage piéton. Ces variations, qui sont triviales à interpréter pour un conducteur, le sont moins pour un logiciel qui doit apprendre à réagir à chaque input STOP et dont l’erreur peut coûter la vie aux personnes transportées.
Pour dépasser ce problème, Il faut pouvoir répertorier toutes les occurrences de panneaux qui existent, ce qui serait difficile mais également loin de la conception d’un véhicule intelligent. C’est ici que Tesla possède un atout que les autres constructeurs n’ont pas ; la flotte grandissante de véhicule. Bien que l’utilisateur ne puisse pas en jouir directement, les véhicules peuvent faire tourner en « Shadow Mode » les logiciels de pilotage automatique et voir si les voitures arrivent à catégoriser de manière correcte, les panneaux ou les éléments de l’environnement. En analysant les nouvelles données que les véhiculent envoient, mauvaise catégorisation ou nouvel élément, les algorithmes peuvent être améliorés et l’amélioration profite à toute la flotte de véhicule en même temps. Cette approche par la vision, couplée à cette intelligence collective fait de Tesla un candidat sérieux pour nous garantir un jour des voitures capables d se déplacer d’un point A à un point B mieux que pilotées par l’humain, avec moins de risques.
Lorsqu’on discute de l’intelligence artificielle dans la presse on met souvent en avant les imperfections, notamment lorsqu’on discute des biais. Plutôt que de tenter de discuter de terminologie, il parait important aussi de faire le point sur leurs forces. Sur des millions de kilomètres parcourus, les véhicules développés ont déjà fait leurs preuves sur des environnements peu changeants, comme les autoroutes. La question est entière sur le fait de savoir ce qu’est réellement une voiture autonome et si le fait de tout avoir cartographié a priori peut encore être considéré comme de l’autonomie ou comme des véhicules intelligents. Toutefois, si l’on considère le marché de Uber on comprend que leur but n’est pas de développer de l’intelligence artificielle mais plutôt de faciliter le transport urbain, les moyens pour y arriver sont donc compréhensibles mais sont loin des discussions relatives à la création des systèmes intelligents au sens large. Il est important de dissocier les acteurs et leur finalité sachant que sur un long terme, leur but est similaire, arriver à se passer du facteur humain.
De nombreuses questions restent ouvertes pour la suite des développement de ces technologies et la nécessité d’y répondre urge plus que le terme « autopilot » qui était, pour l’instant du pur marketing. Même si un tribunal a tranché cette question, nombre d’entre elles sont encore ouvertes avant de voir arriver les voitures autonomes dans notre espace public. La technologie sera-t-elle prête avant les lois qui sont censées réguler son utilisation ? Faudra-t-il prendre en compte les variations de situations pour savoir comment les voitures devraient se comporter dans chacune d’elles et écrire ces lois en fonction, comme avait tenté de le faire vainement l’étude de la moral machine experiment ? Faudra-t-il appliquer le modèle -Lidar et autoriser l’usage des voitures dans des contextes bien définis ?
Nous pourrions nous inspirer du modèle de Tesla, déployer, tester, itérer et utiliser notre intelligence collective, car dans tous les cas, il sera difficile de tout anticiper.
