À l’ère du big data et de l’intelligence artificielle, les algorithmes prennent de plus en plus de place dans les processus de décision et la vie quotidienne. Utilisés à des fins de rentabilité et de productivité, ces constructions logiques ne sont pas exemptes de biais ou d’effets non désirés. Les algorithmes posent des questions éthiques et sociales lorsqu’ils sont emmenés à prendre des décisions à la place des humains.
Qu’est-ce qu’un algorithme??
Il s’agit d’une suite finie d’opérations ou d’instructions logiques détaillées qui, correctement exécutées, permettent de résoudre un problème ou d’obtenir un résultat.
L’algorithme est l’arborescence d’un programme informatique. La programmation est la traduction de l’algorithme dans un langage de programmation spécifique, lui-même transformé en langage machine lors de la compilation.
Comment se présente-t-il??
Un algorithme nécessite :
- une déclaration de variables : description détaillée des éléments utilisés dans l’algorithme?;
- une initialisation ou entrée des données : récupération des données et/ou initialisation?;
- un traitement des données : exécution des opérations nécessaires pour répondre au problème posé?;
- une sortie : affichage du résultat.
Toutes les opérations accomplies par l’algorithme doivent être suffisamment basiques pour pouvoir être réalisées dans une durée finie par un homme utilisant un papier et un crayon.
Quelles sont ses caractéristiques principales??
Un algorithme doit être :
- fini (se terminer après un nombre fini d’étapes)?;
- compréhensible par un non-informaticien?;
- se focaliser sur la logique de résolution et non sur les spécificités de langage?;
- précis (chaque étape doit être définie précisément, les actions spécifiées sans ambiguïté pour chaque cas)?;
- concis?;
- structuré.
Son efficacité technique ou sa performance dépend de
- sa rapidité d’exécution?;
- sa faible consommation en mémoire et énergie?;
- la précision des résultats obtenus?;
- sa capacité à être étendu.
Quels sont ses domaines d’application??
Initialement utilisés pour la résolution de problèmes arithmétiques, leur champ d’application s’est fortement étendu. La plupart des algorithmes sont non numériques, généralistes ou dédiés à un type de données comme les images.
Les algorithmes de recommandation, utilisant les données personnelles et conditionnant de plus en plus notre vie en ligne, ne sont qu’une composante de l’algorithmique (science de la conception et de l’analyse des algorithmes).
Ils sont omniprésents dans les applications (reconnaissance d’objets et de visages, plateformes de dating, authenticité des documents, interactions vocales, pilotage de voitures…) et les outils web (moteurs de recherche, moteurs de recommandation, personnalisation des interfaces…). D’autres secteurs sont fortement consommateurs d’algorithmes comme la finance, la médecine, la santé, les transports…
Quels sont leurs avantages et leurs limites??
La vertu essentielle des algorithmes est de permettre l’exécution optimisée de procédés répétitifs grâce à la formalisation et la description des enchaînements logiques à un niveau plus abstrait, plus général.
Leurs limites ne sont ni mathématiques, ni conceptuelles, mais physiques : la vitesse de calcul et la mémoire disponible ne sont pas infinies.
Identifier les algorithmes efficaces et représenter les données utiles de la meilleure façon est essentiel. Un effort d’analyse important au moment de la conception permet de mettre au point des algorithmes très puissants avec des gains de temps importants.
Les progrès de l’algorithmique sont tout aussi impressionnants que ceux de la technologie des ordinateurs (accroissement exponentiel de la puissance de calcul et des capacités de stockage). C’est particulièrement le cas des algorithmes de compression des images ou du son ou ceux calculant les décimales de pi. Le passage de quelques milliers de décimales dans les années 1950 à plus d’un trillion est dû à parts égales aux avancées technologiques et algorithmiques.
Quelles questions éthiques posent-ils??
- Des données à l’entrée incomplètes, biaisées ou de mauvaises qualités peuvent impacter la finalité de l’algorithme. Une logique du «?faire au mieux?» peut conduire à l’élaboration de modèles erronés.
- La bulle de filtres ou le «?paradoxe d’internet?». Les algorithmes influent sur la liberté de choix des consommateurs créant une bulle informationnelle. Alors qu’internet est censé démocratiser l’ensemble des connaissances au plus grand nombre, l’internaute est cloisonné dans une sphère autour de ses centres d’intérêt, ses réseaux ou sa géolocalisation.
- L’opacité des algorithmes pose la question du pouvoir des plateformes numériques dominantes. Lors des dernières élections présidentielles américaines, il a été établi que le classement d’un moteur de recherche pouvait impacter les préférences de vote des indécis de plus de 20 %.
- Les jugements de valeur du concepteur de l’algorithme qui prend des décisions subjectives sur certaines variables (classement des informations par les moteurs de recherche, minimisation de faux négatifs ou positifs dans un algorithme d’imagerie médicale…)
- Le risque de discrimination. Certains sites ont mis en place des algorithmes de prix discriminant selon la géolocalisation de l’internaute ou générant des variations de tarifs à des moments différents de consultation à partir du même ordinateur (même adresse IP). Dans son livre Weapons of Math Destruction ou «?armes de destruction matheuse?» Cathy O’Neil a recensé les défaillances de certains algorithmes ou modèles. Ces systèmes de scoring (notation) empirent la situation et augmentent les inégalités, car se fondant sur le passé.
Quels tests, contrôles et garde-fous mettre en place??
Les concepteurs d’algorithmes (data scientists) ont une responsabilité importante sur un plan éthique et professionnel. Il apparait de plus en plus nécessaire qu’ils :
- effectuent des tests préalables approfondis?;
- établissent des check-lists?;
- développent des procédures de médiation, d’appel ou de réfutation des décisions prises?;
- adoptent une approche éthique des données et de leurs choix. Le jugement de valeur d’un algorithme est souvent un jugement de valeur porté par son créateur. Adopter une charte éthique pour questionner leur éthique, trouver des solutions aux biais et aux discriminations potentielles (genre, origine ethnique) parait fondamental?;
- prévoient des tests permanents de contrôle ainsi des options de court-circuitage?;
- fassent une déclaration d’impact social : publication des analyses d’impact des outils de décision automatisés?;
- rendent les algorithmes et les codes ouverts, intelligibles et transparents.
Des organismes de contrôle ou des entreprises indépendantes doivent pouvoir :
- assurer l’audit des algorithmes et des modèles afin de les décortiquer et mesurer les biais et les discriminations éventuels?;
- certifier qu’ils sont responsables, équitables et efficaces : exactitude, cohérence, partialité, transparence, équité, rapidité?;
- développer des modalités pour permettre au public de contester les décisions prises.
Certains systèmes algorithmiques censés améliorer les processus humains et résoudre des problèmes les dévoient et les exacerbent. Rendre les algorithmes plus équitables et leurs concepteurs plus responsables apparaît comme une priorité nécessitant leur ouverture, leur contrôle par des tiers et leur contestation possible par le public.
