Analyse marché

L’éthique : Levier de la confiance dans le développement d’une IA inclusive et responsable

lun. 21 juin 2021

Les technologies intelligentes peuvent aussi dériver vers la manipulation, l’aggravation des inégalités, la discrimination. Des règles éthiques sont indispensables pour guider un développement inclusif et responsable de l’IA

L’arrivée de la 5G et ses évolutions futures vont accélérer l’émergence et l’adoption, par de nombreux acteurs, d’outils d’IA puissants et souvent révolutionnaires. Capables de profiter à l’humanité tout entière dans de nombreux secteurs d’activité, y compris la lutte contre la pandémie Covid-19, les technologies intelligentes peuvent aussi dériver vers la manipulation, l’aggravation des inégalités, la discrimination. Des règles éthiques sont indispensables pour guider un développement inclusif et responsable de l’IA. Eclairages scientifiques…

Vous êtes intervenue dans de nombreux débats sur l’IA en 2020. Pourquoi cette effervescence autour d’un domaine dont on parle depuis plus de 30 ans ?

L’histoire de l’IA remonte même à la fin du 19è siècle ! L’effervescence autour de l’IA est bien réelle. Je dirais que son ampleur n’est pas subite, mais plutôt accélérée de façon exponentielle sous l’effet de trois facteurs :

  • L’évolution du matériel : les super calculateurs intégrant les unités de traitement graphique (GPU) fournissent une puissance de calcul jamais atteinte. Ils accélèrent les performances des applications de HPC (High Performance Computing) et d’IA.
  • L’engouement des GAFAM : ils proposent, quasiment clés en main, de puissants outils permettant à des non-experts d’utiliser des algorithmes d’IA très sophistiqués. Ces déploiements massifs ont fait surgir des questionnements éthiques liés à l’effet « boite noire » de certains algorithmes d’apprentissage : des conclusions sont proposées suivant des cheminements si complexes que les humains ne savent pas les expliquer. Ils ont fait naître un nouveau domaine de recherche sur l’IA : « l’explicabilité ».
  • La capacité de collecte massive de données grâce au déploiement des objets connectés et à l’universalisation d’Internet. L’hyper connexion quasi permanente encouragée par la création de nouveaux indices d’évaluation des pays (maturité digitale, bien-être digital), le traçage massif d’interactions quotidiennes (réseaux sociaux), la généralisation de services en ligne, l’acheminement des données… sont autant de facteurs qui ont rendu possible la collecte massive et parfois même sauvage de données - d’où les nouvelles réglementations comme le RGPD - ainsi que l’apprentissage sur ces bases de données.

La Data et l’IA sont fréquemment associées. Quel est le lien entre ces deux disciplines pourtant bien distinctes ?

J‘aime à dire que la Data est le carburant de l’IA. Même si elles poursuivent des objectifs différents, ces deux disciplines se complètent. La Data est nécessaire aux algorithmes d’IA pour faire de la prédiction par exemple. L’IA est focalisée sur la modélisation, la compréhension des processus cognitifs et, souvent, l’exploration. L’IA peut, à son tour, produire des données.

 

Comment la 5G permettra-t-elle à l’IA d’exprimer tout son potentiel ? En quoi la 5G et l’IA ont-elles besoin l’une de l’autre pour se développer ?

Couplée à l’IoT, la 5G fait émerger des applications intelligentes nécessitant :

  • Des vitesses de téléchargement augmentées, des temps de latence réduits et une localisation plus précise des utilisateurs ; 
  • Le concours de nombreux objets connectés à Internet, amenés à prendre des décisions de manière autonome tout en étant en immersion dans des environnements évolutifs.

Ainsi, dans les smart cities, la 5G favorise le développement de solutions de smart building, de smart home et de services ubiquitaires d’aide aux citoyens : géolocalisation, jeux mobiles, e-commerce, voiture autonome (V2V, V2P, V2I). En médecine, elle permettra la chirurgie et la surveillance médicale à distance. Dans l’industrie 4.0, elle accélèrera le développement des digital twins, ces réplicas virtuels de dispositifs physiques permettant soit de contrôler à distance des processus industriels, soit de réaliser des calculs impossibles à faire de façon embarquée. Dans le monde du post COVID-19, la 5G avec l’IoT présentent aussi un immense potentiel dans les domaines de l’éducation en ligne et du télétravail.

Concernant l’apport de l’IA à la 5G, nous allons vers une dataïfication de la 5G. Déjà, les réseaux dits intelligents utilisent des techniques d’IA dans le routage, l’allocation de ressources. Les spécifications des évolutions de la 5G, en cours de définition, prévoient qu’elle abrite bientôt des datacenters. Là, se situera la vraie révolution : la 5G utilisera l’IA en son cœur1.

L’IA fascine et suscite une certaine méfiance. Comment l'expliquer ?

A la différence d’autres sciences en développement comme le quantique, l’IA interpelle l’humain dans ce qu’il a de plus intime. Elle peut donc être intrusive. 

En effet, l’IA génère du texte, de la parole (chatbots), de la vision et de la reconnaissance des formes comme la reconnaissance faciale qui fait débat. Elle a des capacités de cognition, allant jusqu’à argumenter avec les utilisateurs. Elle sait générer des émotions chez l’humain. Elle peut être utilisée pour manipuler des individus dans le cadre de nudges2 (coups de pouces), un concept bien connu en marketing et en théorie des comportements qui incite une personne à prendre une décision qu’elle croît à tort librement choisie. Elle accède à la vie privée et aux données personnelles et peut ne rien oublier. Dans l’univers du travail, beaucoup pensent que les robots et l’automatisation induiront un chômage massif. L’IA effraie aussi dans des mouvements comme le transhumanisme... 

Mais en même temps, elle fascine parce que les robots apportent des solutions très puissantes dans de nombreux domaines : pour soigner l’autisme, accompagner des personnes en déficience cognitive, faire des recommandations en un temps record, aider à prendre des décisions pertinentes, réaliser des forages sous-marins très profonds, piloter des drones, battre les champions du monde aux jeux d’échec et d’autres jeux non triviaux...

Quel rôle jouez-vous au sein de la prestigieuse COMEST de l’UNESCO ?

La COMEST est un organe consultatif et un forum de réflexion mis en place par l'UNESCO en 1998. Avec 17 autres experts, nous réfléchissons aux questions éthiques liées à l’avènement des sciences et des technologies. Actuellement, notre Commission travaille sur l’éthique des objets connectés (IoT) et d’autres sujets d’importance capitale comme l’éthique de l’utilisation des terres. En août dernier, l’UNESCO a diffusé un rapport des travaux sur l’éthique de l’IA, actuellement discuté avec tous ses Etats membres.

Quels sont les garde-fous à prévoir dans le domaine de l’IA ?

A mon avis, il faudrait respecter plusieurs principes :

  • Le respect des droits de l’homme et la veille sur sa dignité. Enjeu : ne pas discriminer les personnes qui n’ont pas accès aux outils numériques.
  • Le respect de la vie privée : veiller au caractère proportionné de la collecte des données et définir les délais légaux de leur utilisation.
  • Une logique démocratique de déploiement : de mon point de vue, les technologies doivent être adaptées au « QI technologique » des utilisateurs afin que leur consentement soit libre et éclairé ; un débat public doit avertir sur les enjeux techniques et sociétaux.
  • La diffusion d’informations régulières, transparentes, loyales et compréhensibles par tous.
  • La possibilité pour l’utilisateur de revenir sur son consentement.
  • La possibilité pour le citoyen d’obtenir l’effacement ou la correction des données.
  • Un point très important lié au big data : l’élimination des biais quels qu’ils soient (cognitifs, économiques, de sélection…), aujourd’hui bien documentés dans la littérature.
  • Le respect de la vie privée : le droit de garder secrètes ses affaires personnelles et ses relations, un sujet sur lequel Alan Westin a mené des travaux fondateurs3.

Comment concilier innovation technologique et règles éthiques au service du plus grand nombre dans la confiance ?

Une tension se crée souvent entre efficacité et éthique. Mais il ne faut pas ouvrir la boîte de Pandore sous prétexte d’accélérer l’innovation. La confiance doit être le maître mot ! Pour moi, la vraie question qui se pose est : quelle société voulons-nous ? Plusieurs initiatives de pays et d’institutions témoignent d’une prise de conscience planétaire.

En octobre 2020, le congrès chilien a présenté un projet d’amendement à la constitution qui définit l’identité mentale comme un droit à protéger de la manipulation (Cognitive rights). Une première mondiale !

De nombreuses institutions travaillent sur l’éthique de l’IA. L’UNESCO a lancé une consultation mondiale en 2020. L’OCDE a constitué un groupe d’experts chargés d’élaborer un projet en juin 2020. Le Parlement Européen a adopté 3 nouvelles résolutions (20 octobre 2020) : le régime de responsabilité de l’IA ; l’IA et la propriété intellectuelle ; l’encadrement éthique des développements IA (le droit à l’information). 

Le 20 janvier, il a publié le dernier rapport de la Résolution du Parlement Européen sur l’IA4. De Montréal à Melbourne, de nombreux centres de recherche en IA se penchent sur le sujet.

Les avancées de l’IA s’annoncent disruptives. L’accélération de son développement et sa vulgarisation suscitent interrogations et inquiétudes. L’éthique, le respect des droits humains et de la vie privée des citoyens-utilisateurs seront des leviers majeurs pour créer la confiance dans une IA inclusive et responsable, susceptible d’aider aux progrès techniques, à la résolution de crises sanitaires comme au développement des pays émergents. Les travaux des commissions d’éthique pluridisciplinaires visent à éclairer les gouvernements, la communauté scientifique, les décideurs et le grand public.

Petite histoire de l’IA

1890 : le psychologue américain William James introduit le concept de mémoire associative qui définit les prémices de ce qui deviendra en 1949 la théorie de Hebb (règle d’apprentissage des réseaux de neurones artificiels) et donne naissance à des travaux de recherche sur le sujet.
1943 : Warren Mc Culloch et Walter Pitts sont les premiers à démontrer de façon théorique, que des réseaux de neurones formels simples peuvent réaliser des fonctions logiques, arithmétiques et symboliques complexes.
1946 : David P.C. Lloyd publie un article fondateur bien connu : « Integrative pattern of excitation and inhibition in two-neuron reflex arcs” https://doi.org/10.1152/jn.1946.9.6.439

1 Cf. Guy Pujolle, « Faut-il avoir peur de la 5G ? » (2020)
2 Richard Thaler et Cass Sunstein « Nudge : Améliorer les décisions concernant la santé, la richesse et le bonheur » (2008).
3 Cf. Alan Westin « Privacy and Freedom » (1967)
4 https://www.europarl.europa.eu/doceo/document/TA-9-2021-0009_FR.pdf

Extrait de notre livre blanc : Défis et progrès à l’ère des données et de l’intelligence artificielle

/media/images/contacts/contributeurs-livres-blancs/amal-el-fallah-seghrouchni.png

Amal El Fallah Seghrouchni

Professeur à l'Université de la Sorbonne- Faculté des Sciences et d'Ingénierie