Intelligence artificielle: 193 pays adoptent le premier accord sur l’éthique de l’IA (UNESCO)

Publié le vendredi 26 novembre 2021 | UN NEWS

© Autre presse par DR
Outils de télécommunication au 21è siècle.

Le monde a besoin de règles pour que l'intelligence artificielle profite à l’humanité et la Recommandation sur l'éthique de l’IA est une réponse forte, a déclaré jeudi la Directrice générale de l’UNESCO, Audrey Azoulay, en présentant la toute première norme mondiale sur l’éthique de l'intelligence artificielle (IA), qui a été adoptée par les États membres de l’UNESCO lors de la Conférence générale.

Ce texte historique énonce des valeurs et principes communs qui guideront la mise en place de l’infrastructure juridique nécessaire pour assurer un développement sain de l’IA.

Selon Mme Azoulay la Recommandation sur l'éthique de l’IA fixe le premier cadre normatif mondial «tout en donnant aux États la responsabilité de l’appliquer à leur niveau».

«L’UNESCO soutiendra ses 193 États membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement de leurs progrès et de leurs pratiques», a déclaré Audrey Azoulay, Directrice de l’UNESCO.

L’IA est omniprésente

Qu’il s'agisse de réserver un vol, de diriger des voitures sans conducteur ou de personnaliser notre fil d'actualité du matin, l’IA intervient dans un grand nombre de nos habitudes quotidiennes. Elle participe également à la prise de décision des gouvernements et du secteur privé.

Les technologies de l’IA donnent des résultats remarquables dans des domaines très spécialisés comme le dépistage du cancer et la création d'environnements inclusifs pour les personnes handicapées. Elle peut également contribuer à lutter contre des problèmes mondiaux tels que le changement climatique ou la faim dans le monde et aider à réduire la pauvreté en optimisant l’aide économique.

Mais cette technologie apporte également de nouveaux défis. On assiste à une augmentation des préjugés sexistes et ethniques, des menaces qui pèsent sur la vie privée, la dignité et la capacité d’agir, des dangers de la surveillance de masse et de l'utilisation accrue de technologies de l’IA peu fiables dans l'application de la loi, pour ne citer que quelques exemples. Jusqu’à présent, il n’existait aucune norme universelle permettant d'apporter une réponse à ces problèmes.

Contenu de la Recommandation

Selon l’UNESCO, la recommandation vise à concrétiser les avantages que l’IA apporte à la société et à réduire les risques qu’elle comporte.

Elle veille à ce que les transformations numériques favorisent les droits de l’homme et contribuent à la réalisation des Objectifs de développement durable, en abordant les problématiques liées à la transparence, la responsabilité et la vie privée.

Elle comprend des chapitres politiques orientés vers l’action sur la gouvernance des données, l’éducation, la culture, le travail, les soins de santé et l’économie.

Protection des données

La Recommandation appelle à aller au-delà de ce que les entreprises technologiques et les gouvernements font pour garantir aux individus une plus grande protection en assurant la transparence, la capacité d’agir et le contrôle de leurs données personnelles.
Elle affirme que tous les individus devraient pouvoir accéder aux enregistrements de leurs données personnelles, et même les effacer. Elle prévoit également des actions visant à améliorer la protection des données et la connaissance qu’ont les individus de leurs propres données, ainsi que leur droit de les contrôler. Elle renforce également la capacité des organismes de réglementation du monde entier à faire respecter ces dispositions.

Interdiction de la notation sociale et de la surveillance de masse

La Recommandation interdit explicitement l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse. Ces technologies sont très invasives, elles portent atteinte aux droits de l’homme et aux libertés fondamentales, et elles sont utilisées de manière généralisée. La Recommandation souligne que, lors de l’élaboration de cadres réglementaires, les États membres devraient tenir compte du fait que la responsabilité et l’obligation de rendre des comptes incombent toujours aux êtres humains en dernier ressort et que les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.

Aide au suivi et à l’évaluation

La Recommandation jette également les bases des outils qui contribueront à sa mise en œuvre. L’évaluation de l’impact éthique vise à aider les pays et les entreprises qui développent et déploient des systèmes d’IA à évaluer l’impact de ces systèmes sur les individus, la société et l’environnement. La méthode d’évaluation de l’état de préparation aide les États Membres à évaluer dans quelle mesure ils sont prêts en termes d’infrastructure juridique et technique.
Cet outil contribuera à renforcer la capacité institutionnelle des pays et recommandera les mesures appropriées à prendre afin de garantir la mise en œuvre pratique de l’éthique. En outre, la Recommandation encourage les États Membres à envisager d’ajouter la fonction d’un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et une surveillance continue.

Protection de l’environnement

La Recommandation souligne que les acteurs de l’IA devraient privilégier les méthodes d’IA économes en données, en énergie et en ressources qui contribueront à faire de l’IA un outil majeur dans la lutte contre le changement climatique et la résolution de problèmes environnementaux. La Recommandation demande aux gouvernements d’évaluer l’impact environnemental direct et indirect tout au long du cycle de vie du système d’IA.
Cela comprend son empreinte carbone, sa consommation d’énergie et l’impact environnemental de l’extraction des matières premières pour soutenir la fabrication des technologies d’IA. Elle vise également à réduire l’impact environnemental des systèmes d’IA et des infrastructures de données. Elle incite les gouvernements à investir dans les technologies vertes, et si les systèmes d’IA ont un impact négatif disproportionné sur l’environnement, la Recommandation préconise de ne pas les utiliser.

Pour des décisions équitables, transparentes et contestables

Les décisions qui ont un impact sur des millions de personnes doivent être équitables, transparentes et contestables, a affirmé la Sous-directrice générale de l’UNESCO pour les sciences sociales et humaines, Gabriela Ramos .

«Ces nouvelles technologies doivent nous aider à relever les grands défis de notre monde actuel, tels que l’accroissement des inégalités et la crise environnementale, et non les aggraver», a déclaré Mme Gabriela Ramos.

L’UNESCO souligne que les technologies émergentes telles que l’IA ont prouvé leur immense capacité à faire le bien. Cependant, l’Organisation appelle à contrôler ses effets négatifs, qui exacerbent les divisions et inégalités existantes au niveau mondial.

Les avancées en matière d’IA doivent respecter l’état de droit, en évitant de faire du tort et en veillant à ce que, lorsqu’il y a préjudice, des mécanismes de responsabilité et de réparation soient à la disposition des personnes concernées, soutient l’UNESCO. ... suite de l'article sur Autre presse

Commentaires

Dans le dossier