Éthique et responsabilité de l'IA : l'intelligence artificielle et les systèmes sociotechniques

Name: Éthique et responsabilité de l'IA : l'intelligence artificielle et les systèmes sociotechniques
Author: Briana Brownell

Découvrez comment les droits de l'homme sont influencés par l'IA

Preview the first lesson free — get full access to all 6 lessons.

Demander une démo Se connecter

Cours : à la demande

(musique douce) Les droits de l'homme sont étroitement liés aux valeurs humaines. Ces valeurs se croisent avec tous les aspects de la société, y compris l'intelligence artificielle et les systèmes technologiques construits autour de l'IA. En tant que tel, il est essentiel que les systèmes d'IA conçus de manière éthique promouvoir les valeurs humaines et les droits de l'homme, avoir un impact positif sur l'humanité et la société. Le rythme du développement de la nouvelle technologie est extrêmement rapide. En raison de la vitesse à laquelle les changements se produisent, nous commençons tout juste à mettre en place la responsabilité et les cadres éthiques qui les entourent. En revanche, les valeurs humaines évoluent beaucoup plus lentement. Les lois sur les droits de l'homme ont des décennies, et parfois même des siècles d'histoire. Ce contraste de rythme signifie qu'il est important voir les nouvelles technologies numériques, y compris l'intelligence artificielle, à travers l'objectif des droits de l'homme déjà établis, et les façons dont l'IA pourrait avoir un impact sur les valeurs humaines, et aussi changer les normes sociétales. Le document type à consulter en matière de droits humains est la Déclaration universelle des droits de l'homme, ou DUDH. La DUDH a été rédigée par des représentants avec de nombreux horizons culturels différents, et a été proclamée comme norme commune en 1948 par l'Assemblée générale des Nations Unies. Cet important document énumère les droits humains fondamentaux qu'il faut protéger. De nombreux groupes se sont interrogés sur l'intersection des droits de l'homme et de l'IA, en particulier comment la confidentialité, l'égalité, et diverses libertés sont respectées, ou potentiellement violé par les systèmes d'IA. Des tentatives ont été faites pour documenter et analyser cette intersection par des entités du secteur public, des entreprises, des groupes à but non lucratif, et organisations internationales. Mais tous les groupes ne discutent pas de l'IA éthique ont inclus une analyse explicite de la façon dont cette éthique se recoupe avec les droits de l'homme. Peut-être étonnamment, documentation sur les principes du secteur privé est plus susceptible que le matériel du secteur public mentionner et discuter de l'intersection de la gouvernance de l'IA dans les droits de l'homme. Un document important qui analyse l'intersection des droits de l'homme et de l'IA est la Déclaration de Toronto. Qui a été publié par des groupes tels qu'Amnesty International et Access Now, et a été publié en 2018. Ce document traite spécifiquement le potentiel de la technologie de l'IA à nuire aux droits de l'homme, et que la responsabilité de ces préjudices devrait être considéré. La Déclaration de Toronto propose à la fois des responsabilités et des obligations pour les gouvernements ainsi que le secteur privé. Il examine en détail le droit à l'égalité, et exige qu'il y ait un moyen par lequel les violations peuvent être corrigées. La prévention de la discrimination en est une des exigences les plus importantes dans la déclaration. En ce qui concerne le secteur public, le document énumère les étapes à suivre pour atténuer les préjudices dus à la discrimination. Premièrement, les risques doivent être identifiés avant l'utilisation et être évalué en permanence après le déploiement du système d'IA. Cette évaluation des risques peut comprendre mener des évaluations d'impact et auditer des systèmes en direct, ainsi que la divulgation des limites du système. Deuxièmement, la transparence et la responsabilité doivent être assurées, et ces systèmes doivent être explicables et intelligibles. La transparence comprend trois parties importantes. A, fournissant un avis lorsque les systèmes d'apprentissage automatique sont utilisés et comment ils fonctionnent. B, audit des systèmes et la possibilité d'être analysé par des experts indépendants. C, en évitant les systèmes de boîte noire. Troisièmement, la surveillance doit être appliquée, y compris la recherche proactive de diverses perspectives et s'assurer qu'une procédure régulière peut être menée. De plus, lorsque les organisations du secteur public se procurer la technologie auprès du secteur privé, ils doivent s'assurer qu'ils disposent d'un contrôle suffisant dans le fonctionnement du système répondre à leurs propres exigences en matière de gouvernance et d'éthique. Organisations du secteur privé ont également des responsabilités spécifiques. Identifier les résultats de leur système cela pourrait être discriminatoire. Atténuer la discrimination en prenant des mesures efficaces et le suivi des résultats de ces actions. Être transparent sur ces efforts. Cette déclaration souligne que la technologie ne doit pas porter atteinte aux droits de l'homme, et que ces obligations doivent être respectées pour assurer que les droits de l'homme sont protégés. Même s'il existe différentes obligations pour les entités du secteur public et privé, la Déclaration de Toronto indique clairement que toutes les organisations font partie d'un écosystème plus vaste. Chacun participe au maintien des valeurs humaines, le respect des droits de l'homme, et veiller à ce que les systèmes d'IA soient conçus et utilisés de manière éthique.

Intermédiaire Fournisseur : Briana Brownell 6 leçons · 17m en Arabe, Allemand, Anglais, Espagnol, Français, Portugais, Chinese

Description du cours

Les droits de l'homme sont étroitement liés aux valeurs humaines et recoupent tous les aspects de la société. Dans ces leçons sur l'IA et l'impact du système sociotechnique sur la société et les valeurs humaines, vous apprendrez comment les droits de l'homme peuvent être affectés par l'IA et comprendrez l'intersection des droits civils et des libertés civiles avec l'IA. Vous apprendrez le principe de l'égalité d'accès à la technologie, aux services et aux opportunités et comment ce principe général changera à mesure que l'IA se développera.

Le principe de l'égalité d'accès à la technologie, aux services et aux opportunités est un principe éthique qui transcende les systèmes d'IA. Étant donné que l'IA est sur le point d'apporter des changements majeurs à la société, il existe un risque que les avantages de cette technologie excluent systématiquement certaines personnes. Ce principe tient également compte de l'impact des outils d'IA sur la société dans son ensemble et des façons dont les gens peuvent utiliser les systèmes d'IA dans leur vie quotidienne, et pas seulement sur le lieu de travail.

La démocratisation de l'IA se fait sentir dans tous les aspects de la conception des systèmes d'IA et cette accessibilité signifie que beaucoup plus d'outils d'IA ont été mis à disposition. En tant que tel, plus de personnes ont accès aux outils pour construire et utiliser des systèmes d'IA. Au fur et à mesure que les normes perçues, la législation et les cultures évoluent, l'IA se développera davantage et nous interagirons avec l'IA de différentes manières. À la fin de ces leçons, vous aurez une compréhension claire de l'impact de l'apprentissage automatique sur la société.

Ce que vous allez apprendre

Décrire comment le principe d'égalité d'accès à la technologie, aux services et aux opportunités croise l'IA
Reconnaître l'importance de la démocratisation des outils d'IA
Comprendre les manières dont les droits humains peuvent être impactés par l'IA
Examiner l'intersection des droits civiques et des libertés civiles avec l'IA
Expliquer l'impact de l'apprentissage automatique (machine learning) sur la société
Explorer comment l'IA peut se développer et comment nous interagirons avec elle à l'avenir

Points clés à retenir

Les droits de l'homme sont étroitement liés aux valeurs humaines et touchent tous les aspects de la société, y compris l'IA.
L'égalité d'accès à la technologie, aux services et aux opportunités est un principe éthique qui transcende les systèmes d'IA.
Étant donné que l'IA est sur le point d'apporter des changements majeurs à la société, il y a un risque que ses avantages excluent systématiquement certaines personnes.
La démocratisation de l'IA a rendu de nombreux outils d'IA disponibles, donnant à plus de personnes l'accès à la création et à l'utilisation de systèmes d'IA.
Au fur et à mesure que les normes perçues, les législations et les cultures évolueront, l'IA continuera de se développer et nous interagirons avec elle de différentes manières.

Foire aux questions

Que vais-je apprendre dans ce cours ?

Vous apprendrez comment les droits de l'homme peuvent être impactés par l'IA, l'intersection des droits civiques et des libertés civiles avec l'IA, le principe de l'égalité d'accès à la technologie, aux services et aux opportunités, la démocratisation de l'IA, et l'impact de l'apprentissage automatique (machine learning) sur la société.

Quels sujets les leçons couvrent-elles ?

Les leçons couvrent l'intersection des droits de l'homme et de l'IA, l'égalité d'accès à la technologie, aux services et aux opportunités, les droits civiques et les libertés civiles, l'apprentissage automatique dans la société, la démocratisation des outils d'IA et l'avenir de l'IA.

Quel est le principe d'égalité d'accès abordé dans ce cours ?

Il s'agit d'un principe éthique - le principe d'égalité d'accès à la technologie, aux services et aux opportunités - qui transcende les systèmes d'IA et prend en compte l'impact des outils d'IA sur la société dans son ensemble ainsi que la façon dont les gens utilisent l'IA dans la vie quotidienne, et pas seulement sur le lieu de travail.

Quelles compétences ce cours aide-t-il à développer ?

Il aborde les applications de l'intelligence artificielle, les systèmes d'intelligence artificielle, l'intelligence artificielle, l'éthique des données, l'intelligence humaine et la responsabilité sociale.

Que vais-je comprendre à la fin de ces leçons ?

À la fin, vous aurez une compréhension claire de l'impact de l'apprentissage automatique (machine learning) sur la société et comprendrez les impacts de l'IA sur les droits de l'homme.