Ética e responsabilidade na IA: inteligência artificial e sistemas sociotécnicos

(Música calma) Os direitos humanos estão intimamente ligados aos valores humanos. Esses valores se cruzam com todos os aspectos da sociedade, incluindo inteligência artificial e sistemas de tecnologia construídos em torno da IA. Como tal, é vital que os sistemas de IA projetados eticamente promover os valores humanos e os direitos humanos, impactando positivamente a humanidade e a sociedade. O ritmo do desenvolvimento de novas tecnologias é extremamente rápido. Como resultado da velocidade com que as mudanças estão acontecendo, estamos apenas começando a montar a responsabilidade e estruturas éticas em torno deles. Em contraste, os valores humanos evoluem muito mais lentamente. As leis de direitos humanos têm décadas, e às vezes até séculos de história. Esse contraste de ritmo significa que é importante para ver as novas tecnologias digitais, incluindo inteligência artificial, através da lente dos direitos humanos já estabelecidos, e as maneiras pelas quais a IA pode impactar os valores humanos, e também mudar as normas sociais. O documento padrão para consultar sobre direitos humanos é a Declaração Universal dos Direitos Humanos, ou DUDH. A DUDH foi redigida por representantes com muitas origens culturais diferentes, e foi proclamado como um padrão comum em 1948 pela Assembleia Geral das Nações Unidas. Este importante documento lista os direitos humanos fundamentais que deve ser protegido. Muitos grupos se perguntaram sobre a interseção de direitos humanos e IA, particularmente como privacidade, igualdade, e várias liberdades são mantidas, ou potencialmente violados por sistemas de IA. Houve tentativas feitas para documentar e analisar esta interseção por entidades do setor público, corporações, grupos sem fins lucrativos, e organizações internacionais. Mas nem todos os grupos que discutem IA ética incluíram uma análise explícita de como essas éticas se cruzam com os direitos humanos. Talvez surpreendentemente, documentação dos princípios do setor privado é mais provável do que o material do setor público para mencionar e discutir a interseção da governança da IA ​​em direitos humanos. Um documento importante que analisa a interseção de direitos humanos e IA é a Declaração de Toronto. Que foi emitido por grupos como a Anistia Internacional e Access Now, e foi publicado em 2018. Este documento discute especificamente o potencial da tecnologia de IA para prejudicar os direitos humanos, e que a responsabilidade por esses danos deve ser considerado. A Declaração de Toronto apresenta responsabilidades e obrigações para os governos assim como o setor privado. Considera extensivamente o direito à igualdade, e exige que haja uma maneira pelas quais as violações podem ser remediadas. Prevenir a discriminação é um dos requisitos mais importantes da declaração. Com relação ao setor público, o documento lista as etapas que devem ser executadas para mitigar os danos devidos à discriminação. Primeiro, os riscos devem ser identificados antes do uso e ser avaliado continuamente após a implantação do sistema de IA. Esta avaliação de risco pode incluir realização de avaliações de impacto e auditoria de sistemas ativos, bem como revelando as limitações do sistema. Dois, a transparência e a responsabilidade devem ser asseguradas, e esses sistemas devem ser explicáveis ​​e inteligíveis. A transparência inclui três partes importantes. A, notificando onde os sistemas de aprendizado de máquina são usados ​​e como funcionam. B, auditoria dos sistemas e a capacidade de ser analisado por especialistas independentes. C, evitando sistemas de caixa preta. Três, a supervisão deve ser aplicada, incluindo a busca proativa de diversas perspectivas e garantir que o devido processo possa ser conduzido. Além disso, quando as organizações do setor público adquirir tecnologia do setor privado, eles devem garantir que tenham supervisão suficiente no funcionamento do sistema para atender a sua própria governança e requisitos éticos. Organizações do setor privado também têm responsabilidades específicas. Identificando os resultados de seu sistema isso pode ser discriminatório. Mitigar a discriminação tomando medidas eficazes e acompanhar os resultados dessas ações. Ser transparente sobre esses esforços. Esta declaração enfatiza que a tecnologia não deve minar os direitos humanos, e que essas obrigações devem ser seguidas para garantir que os direitos humanos sejam protegidos. Embora existam obrigações diferentes para entidades do setor público e privado, a Declaração de Toronto deixa claro que todas as organizações fazem parte de um ecossistema maior. Cada um desempenha um papel na defesa dos valores humanos, respeitando os direitos humanos, e garantir que os sistemas de IA sejam projetados e usados ​​de forma ética.