Éthique et responsabilité de l'IA : l'intelligence artificielle et les systèmes sociotechniques

(musique douce) Les droits de l'homme sont étroitement liés aux valeurs humaines. Ces valeurs se croisent avec tous les aspects de la société, y compris l'intelligence artificielle et les systèmes technologiques construits autour de l'IA. En tant que tel, il est essentiel que les systèmes d'IA conçus de manière éthique promouvoir les valeurs humaines et les droits de l'homme, avoir un impact positif sur l'humanité et la société. Le rythme du développement de la nouvelle technologie est extrêmement rapide. En raison de la vitesse à laquelle les changements se produisent, nous commençons tout juste à mettre en place la responsabilité et les cadres éthiques qui les entourent. En revanche, les valeurs humaines évoluent beaucoup plus lentement. Les lois sur les droits de l'homme ont des décennies, et parfois même des siècles d'histoire. Ce contraste de rythme signifie qu'il est important voir les nouvelles technologies numériques, y compris l'intelligence artificielle, à travers l'objectif des droits de l'homme déjà établis, et les façons dont l'IA pourrait avoir un impact sur les valeurs humaines, et aussi changer les normes sociétales. Le document type à consulter en matière de droits humains est la Déclaration universelle des droits de l'homme, ou DUDH. La DUDH a été rédigée par des représentants avec de nombreux horizons culturels différents, et a été proclamée comme norme commune en 1948 par l'Assemblée générale des Nations Unies. Cet important document énumère les droits humains fondamentaux qu'il faut protéger. De nombreux groupes se sont interrogés sur l'intersection des droits de l'homme et de l'IA, en particulier comment la confidentialité, l'égalité, et diverses libertés sont respectées, ou potentiellement violé par les systèmes d'IA. Des tentatives ont été faites pour documenter et analyser cette intersection par des entités du secteur public, des entreprises, des groupes à but non lucratif, et organisations internationales. Mais tous les groupes ne discutent pas de l'IA éthique ont inclus une analyse explicite de la façon dont cette éthique se recoupe avec les droits de l'homme. Peut-être étonnamment, documentation sur les principes du secteur privé est plus susceptible que le matériel du secteur public mentionner et discuter de l'intersection de la gouvernance de l'IA dans les droits de l'homme. Un document important qui analyse l'intersection des droits de l'homme et de l'IA est la Déclaration de Toronto. Qui a été publié par des groupes tels qu'Amnesty International et Access Now, et a été publié en 2018. Ce document traite spécifiquement le potentiel de la technologie de l'IA à nuire aux droits de l'homme, et que la responsabilité de ces préjudices devrait être considéré. La Déclaration de Toronto propose à la fois des responsabilités et des obligations pour les gouvernements ainsi que le secteur privé. Il examine en détail le droit à l'égalité, et exige qu'il y ait un moyen par lequel les violations peuvent être corrigées. La prévention de la discrimination en est une des exigences les plus importantes dans la déclaration. En ce qui concerne le secteur public, le document énumère les étapes à suivre pour atténuer les préjudices dus à la discrimination. Premièrement, les risques doivent être identifiés avant l'utilisation et être évalué en permanence après le déploiement du système d'IA. Cette évaluation des risques peut comprendre mener des évaluations d'impact et auditer des systèmes en direct, ainsi que la divulgation des limites du système. Deuxièmement, la transparence et la responsabilité doivent être assurées, et ces systèmes doivent être explicables et intelligibles. La transparence comprend trois parties importantes. A, fournissant un avis lorsque les systèmes d'apprentissage automatique sont utilisés et comment ils fonctionnent. B, audit des systèmes et la possibilité d'être analysé par des experts indépendants. C, en évitant les systèmes de boîte noire. Troisièmement, la surveillance doit être appliquée, y compris la recherche proactive de diverses perspectives et s'assurer qu'une procédure régulière peut être menée. De plus, lorsque les organisations du secteur public se procurer la technologie auprès du secteur privé, ils doivent s'assurer qu'ils disposent d'un contrôle suffisant dans le fonctionnement du système répondre à leurs propres exigences en matière de gouvernance et d'éthique. Organisations du secteur privé ont également des responsabilités spécifiques. Identifier les résultats de leur système cela pourrait être discriminatoire. Atténuer la discrimination en prenant des mesures efficaces et le suivi des résultats de ces actions. Être transparent sur ces efforts. Cette déclaration souligne que la technologie ne doit pas porter atteinte aux droits de l'homme, et que ces obligations doivent être respectées pour assurer que les droits de l'homme sont protégés. Même s'il existe différentes obligations pour les entités du secteur public et privé, la Déclaration de Toronto indique clairement que toutes les organisations font partie d'un écosystème plus vaste. Chacun participe au maintien des valeurs humaines, le respect des droits de l'homme, et veiller à ce que les systèmes d'IA soient conçus et utilisés de manière éthique.