Les IA sont entraînées par les données. S’il est vrai que les données sont le nouveau pétrole de l’économie, alors elles devraient avoir un prix, tout comme le pétrole. Dans les années 2010, les principales plateformes internet ne vous offraient pas d’argent pour vos données, ils les prenaient, avec une perte de confiance comme résultat. Les années 2020 verront sans doute des tentatives de création de marchés de données efficaces pour déterminer la véritable valeur financière de vos données grâce à l’interaction entre l’offre et la demande. Même certaines données médicales sensibles ne seront pas tarifées par les régulateurs gouvernementaux mais par les patients ou les personnes en bonne santé eux-mêmes qui en sont propriétaires légaux et qui pourraient les vendre en tant que micro-entrepreneurs sur un marché de la donnée de santé.
La surveillance et la perte de la vie privée sont-elles des conséquences inévitables de notre société de plus en plus complexe ? L’individu bénéficie de moins en moins d’intimité, surveillé qu’il est par des « dispositifs spécialisés » de police, de garde-frontières ou de santé : êtes-vous un agent pathogène ? Êtes-vous un intrus ? Etc. Les individus sacrifient leur liberté pour les avantages de faire partie d’un organisme sécuritaire !
Il en est de même pour les super-organismes tels que les nations. Il y a plus de cinq mille ans, l’écriture a permis d’enregistrer les activités humaines. Ce fut la naissance de l’histoire écrite. Une invention de la plus grande importance. Cependant l’objectif initial était de faciliter l’inscription de la propriété privée, de suivre les citoyens et leurs paiements d’impôts. Plus un super-organisme est complexe, plus sa collecte d’informations sur ses composants est complète.
Il y a deux cents ans, le curé de chaque village savait tout sur tous les villageois, même sur ceux qui ne se confessaient pas, car ils apparaissaient dans les confessions des autres. De plus, tout le monde a vite entendu parler de l’étranger qui était entré dans le village, parce que tout le monde regardait toujours par la fenêtre et ce qu’ils voyaient circulait. Ces mécanismes de contrôle ont été temporairement perdus en raison de l’anonymisation qu’offraient les grandes villes à croissance rapide, mais aujourd’hui de nouveaux dispositifs de surveillance tels que les vidéos caméras et les smartphones dans le cadre de systèmes numériques en disent long sur des milliards d’utilisateurs. Caméras, drones, senseurs, etc., deviennent de plus en plus minuscules et omniprésents ; les dispositifs de reconnaissance faciale ou d’attitude deviennent de moins en moins chers, et bientôt beaucoup d’individus l’utiliseront pour identifier d’autres individus n’importe où sur Terre – le monde global n’offrira pas plus d’intimité que le village d’antan. Est-ce bon ou mauvais ? Quoi qu’il en soit, certaines nations peuvent trouver plus facile que d’autres de devenir des types plus complexes de super-organismes au détriment des droits à la vie privée de leurs habitants.
Extrait du livre à paraître en septembre 2021 : CODE_IA sous la direction de Xavier Comtesse, édition Georg.
*Jürgen Schmidhuber, IDSIA, Fondation Dalle Molle
Photo by Gianluca Grisenti
