• Commencer
  • Bien ou pas bien ? Lorsque l'IA soulève des questions éthiques

Unser Lesetipp

Contributions actuelles

Bien ou pas bien ? Lorsque l'IA soulève des questions éthiques

Durée de lecture: 5 Minutes 15.02.2022 Actualités & Tendances

Ce qu'il faut retenir de la composante humaine de l'IA

Les chercheurs partent du postulat que l'IA aura à l'avenir des compétences cognitives comparables à celles des humains, voire supérieures. La question n'est pas « si » mais « quand ». Nous avons discuté des points à prendre en compte lors de la mise en place d’une IA avec Monsieur Christof Wolf Brenner de la Know-Center GmbH.

Aujourd’hui déjà, l'IA permet d'atteindre des résultats plus rapides et de nouvelles connaissances. D'une part l'IA apprend de manière autonome - en d'autres mots sans supervision permanente - et d'autre part elle est adaptative. Suivant ce que nous lui montrons, elle trouve et apprend d'autres choses.

Ce qui paraît de prime abord positif peut toutefois aussi avoir des conséquences négatives. Un exemple connu est ce qu'on appelle l'algorithme AMS (lien en allemand uniquement) qui répartit les demandeurs d'emploi en trois catégories : avec de fortes chances, des chances moyennes ou de faibles chances de retrouver un poste en CDI dans les six prochains mois. Les critiques accusent entre autres ce système de « figer » les injustices sociales existantes.

Cela signifie que l'IA prend des décisions sur la base d'une perception du monde qui est déjà considérée comme dépassée. Dans ce contexte, l'IA touche ainsi à des questions éthiques qui, si elles ne sont pas prises en compte de manière adéquate, peuvent rapidement conduire à des problèmes pouvant mener à la critique publique.

Les défis techniques les plus importants à l'heure actuelle

La complexité des thèmes de l'IA et de l'éthique se retrouve avant tout dans les trois domaines suivants.

  1. Biais : ce sont, pour simplifier, les préjugés et ressentiments qui ont été intégrés dans les algorithmes. Les conséquences en sont par exemple qu'un système d'IA ne propose, à qualification équivalente, que des hommes ou que des personnes à la peau claire pour des offres de poste (lien en allemand uniquement).
  2. Manque de transparence : il y a des situations où il est impossible de déterminer comment l’IA a proposé tels ou tels résultats en ne se basant que sur les données d’entrée. Pour maîtriser ce problème, les chercheurs et chercheuses travaillent sur le thème « Explainable AI» (IA explicable).
  3. Protection des données :  il s'agit d'un bien, mais aussi d'un droit, qu'il convient de protéger, précisément en liaison avec l'IA. Des solutions techniques telles que l'anonymisation ou les approches réglementaires sont ici supposées aider (lien en allemand uniquement).

Aborder l'IA dans la pratique et la mettre en oeuvre

Comment empêcher des résultats douteux du point de vue de l'éthique

Pour réduire le risque qu'une solution IA ne fournisse des résultats indésirables d'un point de vue moral, vous pouvez adopter trois axes simples.

  1. Réaliser une enquête approfondie : Il faut une prise de conscience et une compréhension de cette problématique. Cela ouvre aussi la voie à une approche stratégique quant à la mise en œuvre de l'IA. Cela empêche en outre que l'IA ne soit tout d'abord implémentée à l'aveugle et qu'il faille ensuite éteindre les incendies.
  2. Prise de position : La direction doit soutenir une politique claire vis-à-vis de l’éthique et de l’IA. Elle doit définir les conditions de base, au-delà des lois, qu’elle se sent obliger de respecter.
  3. Mettre en place des processus : Des processus sont nécessaires pour vérifier systématiquement et régulièrement le potentiel de risque des applications de l'IA. Ceux-ci vont de la conception à l'utilisation en passant par la planification et le développement.
C'est ainsi que les PME industrielles planifient des solutions d'IA

Lorsque les bases en matière d'IA et d'éthique sont posées, il s'agit de s'attaquer à la planification concrète. L'harmonisation avec la stratégie de l'entreprise est ici une priorité absolue. La question décisive est de savoir comment l'IA s'insère dans notre organisation et comment elle peut aider à atteindre nos objectifs ?

La planification n'inclut pas seulement des aspects techniques : aussi bien l'aspect entrepreneurial que l'aspect humain revêtent la même importance. Ce dernier traite les conséquences des décisions de l'IA sur les utilisateurs et utilisatrices.

Ensuite, une bonne feuille de route est nécessaire. La pratique a révélé que les entreprises devraient idéalement commencer par des quick-wins – surtout là où des données de qualité sont disponibles, qui permettent déjà aux humains de tirer des conclusions simples.

Enfin et surtout, l’implémentation nécessite des partenaires compétents qui veillent à ce que les projets d'IA ne soient pas uniquement couronnés de succès sur le plan technique et organisationnel, mais aussi en terme d’éthique.

En résumé : l'IA est à prendre avec des pincettes

La critique publique et la perte de crédibilité vous tendent les bras

Quiconque travaille avec une IA fondée sur des données, par ex. pour classifier les marchandises produites en « OK » et « rejet », revendiquent toujours très fortement sa généralisation. Car sur la base d'exemples observés, il est possible de faire des prévisions exactes sur des événements à venir. Les solutions d'IA peuvent ainsi être modulables. Toutefois cela mène à des erreurs et des résultats discutables d’un point de vue éthique ..

Il en ressort que les projets d'IA doivent être très bien planifiés. L'intégration de l'IA dans une organisation existante signifie un processus de changement sérieux à long terme .Il ne doit pas prendre uniquement en considération l’aspect technique mais aussi tenir compte des convictions propres à l’entreprise.

Les entreprises qui n'abordent pas le sujet avec la prudence nécessaire courent le risque de perdre leur « licence d'exploitation » du fait de la critique publique et d’une perte de crédibilité à long terme.

You want this really cool thing to download.

Download The Thing!

placeholder_200x200