Quelle éthique pour l’intelligence artificielle ?

Alors que l’intelligence artificielle est de plus en plus présente dans nos vies, il convient de mettre en place des garde-fous techniques et juridiques afin de garantir le respect des libertés individuelles.

Notre vie est désormais pilotée par la donnée. Des conseils de placements financiers dispensés par les « robo-advisors » au diagnostic médical automatisé, en passant par l’affectation des étudiants à l’université avec Parcoursup, des algorithmes prennent un nombre croissant de décisions à notre place. Le recrutement prédictif va jusqu’à sélectionner ou non votre candidature en fonction de votre CV, mais aussi de votre personnalité et de votre motivation.

Ce rôle accru que tient l’intelligence artificielle dans nos sociétés interroge sur la façon dont un modèle est conçu, entraîné et supervisé. Pour éviter l’effet « boîte noire » qui nourrit la suspicion, il convient d’expliquer comment les algorithmes fonctionnent et sur quels critères reposent les résultats obtenus.

Dans cet effort de transparence, l’État français montre l’exemple. Depuis le 1er juillet, les citoyens peuvent exiger de l’administration qu’elle révèle les mécanismes de fonctionnement de ses algorithmes, quand ces derniers, à 100 % automatisés, sont à l’origine d’une prise de décision (source ZDnet).

Serment d’Hippocrate de la data science

L’éthique est aussi portée par ceux qui conçoivent les modèles, en l’occurrence les data scientists. Un principe d’« ethics by design » permettrait d’intégrer cette dimension éthique dès le début d’un projet. Dans une tribune, Sylvain Duranton, directeur monde de BCG Gamma, appelle même à la création d’un Chief ethics officer. En attendant, le collectif Data for Good invite les spécialistes de la donnée à signer un serment d’Hippocrate appliqué à la data science.

Des initiatives comme Women in AI ou Black in AI plaident, elles, pour une plus grande diversité au sein de la population des experts de la donnée afin de réduire le risque d’introduction de biais discriminatoires de genre ou d’origine ethnique. L’algorithme de recrutement d’Amazon écartait, par exemple, les candidatures féminines, car il était entraîné sur l’historique des embauches du groupe, massivement masculines (source Les Echos).

Souveraineté européenne

Par son rôle de conseil, une ESN comme Orange Business Services a un rôle à jouer. Intervenant dès le début d’un projet d’IA, en co-construction avec l’entreprise cliente, elle peut apporter cet éclairage éthique, voire refuser une mission si elle contrevient à ses valeurs. Il s’agit ensuite de poser les garde-fous techniques et juridiques garantissant le respect des libertés fondamentales en conformité avec le RGPD (Règlement Général sur la Protection des Données).

L’un des cas d’usage les plus fréquents sur lesquels Orange Business Services intervient porte sur le computer vision. Ce concept, qui consiste à analyser un flux d’images capté par des caméras IP, s’applique notamment dans le suivi des parcours clients dans une galerie commerciale. Pour garantir le respect de la vie privée, un identifiant numérique est attribué aux personnes en fonction de caractéristiques visuelles. Ce qui permet par exemple de ne pas compter plusieurs fois une même personne, tout en garantissant son anonymat et sans collecte d’informations personnelles.

Le déploiement en mode edge computing renforce la sécurisation des données sensibles en assurant l’analyse du flux de données au niveau des caméras pour ne remonter que les données fréquentation dans le cloud. Des dispositifs de chiffrement, d’anonymisation et de pseudonymisation des données entrent, par ailleurs, en jeu.

De cette façon, les propriétaires du point de vente ou de la galerie commerciale récupère uniquement, via un tableau de bord, les informations apportant une valeur marketing tel que le genre ou encore l’âge moyen de ses clients.
La localisation des données sensibles est également un enjeu critique afin de ne pas s’exposer aux lois extraterritoriales qui, comme le Cloud Act américain, autorise, dans certains cas, la perquisition de données par des instances juridiques étrangères, même si celles-ci ne sont pas hébergées aux États-Unis.

À cet effet, Orange fait partie des 22 membres fondateurs du projet GAIA-X qui vise à bâtir un cloud européen souverain afin d’offrir aux entreprises une alternative aux plateformes chinoises ou américaines.

L’IA, créatrice d’emplois

Enfin, il faut battre en brèche le discours anxiogène sur le côté « Big Brother » de l’IA qui serait destructeur d’emplois. Pour l’heure, elle est avant tout créatrice d’emplois. Du data engineer au chief data officer, en passant par les experts métiers, de nombreux profils interviennent tout au long de la chaîne de traitement de la donnée.

Du côté des opérationnels, l’IA supprime les tâches répétitives, chronophages et à faible valeur ajoutée. Dans le domaine de la relation client, un chatbot répond automatiquement aux questions basiques et récurrentes des consommateurs.

Sur une chaîne de production industrielle, permet d’effectuer un diagnostic visuel pour détecter les défauts (bulle d’air, déformation, tâche, etc…), déchargeant les opérateurs de la partie ingrate de leur travail. La caméra connectée assure la détection de premier niveau et alerte l’opérateur en cas de suspicion. Ce dernier gagne en expertise et se consacre à des missions moins pénibles et à plus haute valeur ajoutée.

Découvrez nos solutions d'accompagnement