ALGORITHMES : comment les rendre plus efficaces, éthiques et responsables ?

Quelles questions éthiques posent-ils ?

  • Des données à l’entrée incomplètes, biaisées ou de mauvaises qualités peuvent impacter la finalité de l’algorithme. Une logique du « faire au mieux » peut conduire à l’élaboration de modèles erronés.
  • La bulle de filtres ou le « paradoxe d’internet ». Les algorithmes influent sur la liberté de choix des consommateurs créant une bulle informationnelle. Alors qu’internet est censé démocratiser l’ensemble des connaissances au plus grand nombre, l’internaute est cloisonné dans une sphère autour de ses centres d’intérêt, ses réseaux ou sa géolocalisation.
  • L’opacité des algorithmes pose la question du pouvoir des plateformes numériques dominantes. Lors des dernières élections présidentielles américaines, il a été établi que le classement d’un moteur de recherche pouvait impacter les préférences de vote des indécis de plus de 20 %.
  • Les jugements de valeur du concepteur de l’algorithme qui prend des décisions subjectives sur certaines variables (classement des informations par les moteurs de recherche, minimisation de faux négatifs ou positifs dans un algorithme d’imagerie médicale…)
  • Le risque de discrimination. Certains sites ont mis en place des algorithmes de prix discriminant selon la géolocalisation de l’internaute ou générant des variations de tarifs à des moments différents de consultation à partir du même ordinateur (même adresse IP). Dans son livre Weapons of Math Destruction ou « armes de destruction matheuse » Cathy O’Neil a recensé les défaillances de certains algorithmes ou modèles. Ces systèmes de scoring (notation) empirent la situation et augmentent les inégalités, car se fondant sur le passé.

algorithm-3859539_960_720Quels tests, contrôles et garde-fous mettre en place ?

Les concepteurs d’algorithmes (data scientists) ont une responsabilité importante sur un plan éthique et professionnel. Il apparait de plus en plus nécessaire qu’ils :

  • effectuent des tests préalables approfondis ;
  • établissent des check-lists ;
  • développent des procédures de médiation, d’appel ou de réfutation des décisions prises ;
  • adoptent une approche éthique des données et de leurs choix. Le jugement de valeur d’un algorithme est souvent un jugement de valeur porté par son créateur. Adopter une charte éthique pour questionner leur éthique, trouver des solutions aux biais et aux discriminations potentielles (genre, origine ethnique) parait fondamental ;
  • prévoient des tests permanents de contrôle ainsi des options de court-circuitage ;
  • fassent une déclaration d’impact social : publication des analyses d’impact des outils de décision automatisés ;
  • rendent les algorithmes et les codes ouverts, intelligibles et transparents.

Des organismes de contrôle ou des entreprises indépendantes doivent pouvoir :

  • assurer l’audit des algorithmes et des modèles afin de les décortiquer et mesurer les biais et les discriminations éventuels ;
  • certifier qu’ils sont responsables, équitables et efficaces : exactitude, cohérence, partialité, transparence, équité, rapidité ;
  • développer des modalités pour permettre au public de contester les décisions prises.

Certains systèmes algorithmiques censés améliorer les processus humains et résoudre des problèmes les dévoient et les exacerbent. Rendre les algorithmes plus équitables et leurs concepteurs plus responsables apparaît comme une priorité nécessitant leur ouverture, leur contrôle par des tiers et leur contestation possible par le public.