Ética e responsabilidade na IA: inteligência artificial e sistemas sociotécnicos

Name: Ética e responsabilidade na IA: inteligência artificial e sistemas sociotécnicos
Author: Briana Brownell

Aprender as formas em que os direitos humanos são afectados pela IA

Preview the first lesson free — get full access to all 6 lessons.

Curso: sob demanda

(Música calma) Os direitos humanos estão intimamente ligados aos valores humanos. Esses valores se cruzam com todos os aspectos da sociedade, incluindo inteligência artificial e sistemas de tecnologia construídos em torno da IA. Como tal, é vital que os sistemas de IA projetados eticamente promover os valores humanos e os direitos humanos, impactando positivamente a humanidade e a sociedade. O ritmo do desenvolvimento de novas tecnologias é extremamente rápido. Como resultado da velocidade com que as mudanças estão acontecendo, estamos apenas começando a montar a responsabilidade e estruturas éticas em torno deles. Em contraste, os valores humanos evoluem muito mais lentamente. As leis de direitos humanos têm décadas, e às vezes até séculos de história. Esse contraste de ritmo significa que é importante para ver as novas tecnologias digitais, incluindo inteligência artificial, através da lente dos direitos humanos já estabelecidos, e as maneiras pelas quais a IA pode impactar os valores humanos, e também mudar as normas sociais. O documento padrão para consultar sobre direitos humanos é a Declaração Universal dos Direitos Humanos, ou DUDH. A DUDH foi redigida por representantes com muitas origens culturais diferentes, e foi proclamado como um padrão comum em 1948 pela Assembleia Geral das Nações Unidas. Este importante documento lista os direitos humanos fundamentais que deve ser protegido. Muitos grupos se perguntaram sobre a interseção de direitos humanos e IA, particularmente como privacidade, igualdade, e várias liberdades são mantidas, ou potencialmente violados por sistemas de IA. Houve tentativas feitas para documentar e analisar esta interseção por entidades do setor público, corporações, grupos sem fins lucrativos, e organizações internacionais. Mas nem todos os grupos que discutem IA ética incluíram uma análise explícita de como essas éticas se cruzam com os direitos humanos. Talvez surpreendentemente, documentação dos princípios do setor privado é mais provável do que o material do setor público para mencionar e discutir a interseção da governança da IA em direitos humanos. Um documento importante que analisa a interseção de direitos humanos e IA é a Declaração de Toronto. Que foi emitido por grupos como a Anistia Internacional e Access Now, e foi publicado em 2018. Este documento discute especificamente o potencial da tecnologia de IA para prejudicar os direitos humanos, e que a responsabilidade por esses danos deve ser considerado. A Declaração de Toronto apresenta responsabilidades e obrigações para os governos assim como o setor privado. Considera extensivamente o direito à igualdade, e exige que haja uma maneira pelas quais as violações podem ser remediadas. Prevenir a discriminação é um dos requisitos mais importantes da declaração. Com relação ao setor público, o documento lista as etapas que devem ser executadas para mitigar os danos devidos à discriminação. Primeiro, os riscos devem ser identificados antes do uso e ser avaliado continuamente após a implantação do sistema de IA. Esta avaliação de risco pode incluir realização de avaliações de impacto e auditoria de sistemas ativos, bem como revelando as limitações do sistema. Dois, a transparência e a responsabilidade devem ser asseguradas, e esses sistemas devem ser explicáveis e inteligíveis. A transparência inclui três partes importantes. A, notificando onde os sistemas de aprendizado de máquina são usados e como funcionam. B, auditoria dos sistemas e a capacidade de ser analisado por especialistas independentes. C, evitando sistemas de caixa preta. Três, a supervisão deve ser aplicada, incluindo a busca proativa de diversas perspectivas e garantir que o devido processo possa ser conduzido. Além disso, quando as organizações do setor público adquirir tecnologia do setor privado, eles devem garantir que tenham supervisão suficiente no funcionamento do sistema para atender a sua própria governança e requisitos éticos. Organizações do setor privado também têm responsabilidades específicas. Identificando os resultados de seu sistema isso pode ser discriminatório. Mitigar a discriminação tomando medidas eficazes e acompanhar os resultados dessas ações. Ser transparente sobre esses esforços. Esta declaração enfatiza que a tecnologia não deve minar os direitos humanos, e que essas obrigações devem ser seguidas para garantir que os direitos humanos sejam protegidos. Embora existam obrigações diferentes para entidades do setor público e privado, a Declaração de Toronto deixa claro que todas as organizações fazem parte de um ecossistema maior. Cada um desempenha um papel na defesa dos valores humanos, respeitando os direitos humanos, e garantir que os sistemas de IA sejam projetados e usados de forma ética.

Intermediário Fornecedor : Briana Brownell 6 lições · 17m em Árabe, Alemão, Inglês, Espanhol, Francês, Português, Chinese

Descrição do curso

Os direitos humanos estão intimamente ligados aos valores humanos e cruzam-se com todos os aspectos da sociedade. Nestas lições sobre o impacto da IA e do sistema sociotécnico na sociedade e nos valores humanos, aprenderá como os direitos humanos podem ser afectados pela IA e compreenderá a intersecção dos direitos civis e das liberdades civis com a IA. Ficarás a conhecer o princípio da igualdade de acesso à tecnologia, aos serviços e às oportunidades e a forma como este princípio geral irá mudar à medida que a IA se desenvolve.

O princípio da igualdade de acesso à tecnologia, aos serviços e às oportunidades é um princípio ético que transcende os sistemas de IA. Uma vez que a IA está preparada para introduzir grandes mudanças na sociedade, existe o risco de os benefícios desta tecnologia poderem excluir sistematicamente certos indivíduos. Este princípio também considera o impacto das ferramentas de IA na sociedade em geral e as formas como as pessoas podem utilizar os sistemas de IA na sua vida quotidiana, e não apenas no local de trabalho.

A democratização da IA está a ser sentida em todas as partes da concepção dos sistemas de IA e esta acessibilidade significou que foram disponibilizadas muitas mais ferramentas de IA. Como tal, mais pessoas têm acesso às ferramentas para construir e utilizar sistemas de IA. À medida que as normas, a legislação e as culturas vão mudando, a IA vai-se desenvolvendo e nós vamos interagindo com ela de formas diferentes. No final destas aulas, terá uma noção clara do impacto da aprendizagem automática na sociedade.

O Que Você Vai Aprender

Descreva como o princípio de acesso igualitário à tecnologia, serviços e oportunidades se cruza com IA
Reconheça a importância da democratização das ferramentas de IA
Entenda as maneiras pelas quais os direitos humanos podem ser impactados pela IA
Examine a intersecção dos direitos civis e liberdades civis com IA
Explique o impacto do aprendizado de máquina na sociedade
Explore como a IA pode se desenvolver e como interagiremos com ela no futuro

Principais Conclusões

Os direitos humanos estão estreitamente vinculados aos valores humanos e se cruzam com todos os aspectos da sociedade, incluindo IA.
O acesso igualitário à tecnologia, serviços e oportunidades é um princípio ético que transcende os sistemas de IA.
Como a IA está pronta para fazer grandes mudanças na sociedade, há o risco de que seus benefícios possam excluir sistematicamente certos indivíduos.
A democratização da IA disponibilizou muitas mais ferramentas de IA, dando a mais pessoas acesso para construir e usar sistemas de IA.
À medida que as normas percebidas, a legislação e as culturas mudam, a IA se desenvolverá ainda mais e interagiremos com ela de maneiras diferentes.

Perguntas Frequentes

O que vou aprender neste curso?

Você aprenderá como os direitos humanos podem ser impactados pela IA, a intersecção dos direitos civis e liberdades civis com IA, o princípio de acesso igualitário à tecnologia, serviços e oportunidades, a democratização da IA e o impacto do aprendizado de máquina na sociedade.

Quais tópicos as lições cobrem?

As lições cobrem a intersecção dos direitos humanos e IA, acesso igualitário à tecnologia, serviços e oportunidades, direitos civis e liberdades civis, aprendizado de máquina na sociedade, democratização das ferramentas de IA e o futuro da IA.

Qual é o princípio de acesso igualitário discutido neste curso?

É um princípio ético — o princípio de acesso igualitário à tecnologia, serviços e oportunidades — que transcende sistemas de IA e considera o impacto das ferramentas de IA na sociedade em geral e como as pessoas usam IA na vida cotidiana, não apenas no local de trabalho.

Quais habilidades este curso ajuda a desenvolver?

Aborda aplicações de inteligência artificial, sistemas de inteligência artificial, inteligência artificial, ética de dados, inteligência humana e responsabilidade social.

O que vou entender ao final dessas lições?

Ao final, você terá uma compreensão clara do impacto do aprendizado de máquina na sociedade e entenderá os impactos dos direitos humanos da IA.