En estas lecciones conocerá el panorama de gobernanza en torno a la IA.
En estas lecciones conocerá el panorama de gobernanza en torno a la IA. Aprenderá sobre la alineación de la IA con los valores humanos y los impactos externos que están indirectamente relacionados con la creación y el despliegue de cualquier sistema de IA, como los impactos ambientales. También aprenderá sobre los sistemas de IA que hacen daño deliberado y los patrones oscuros, patrones de diseño engañosos que se utilizan para influir en las personas para que realicen una acción que puede no ser la mejor para ellas.
Los órganos de gobierno son los que asignan la responsabilidad de diversas iniciativas de TI, dadas las presiones comerciales, las obligaciones regulatorias, las expectativas de las partes interesadas y las necesidades empresariales. En términos de ética en la IA, esto significa que el órgano rector es en última instancia responsable de las decisiones, acciones e inacciones. Las consideraciones culturales, las convenciones lingüísticas y los detalles geográficos se cruzan con la IA ética, porque se basa en cómo las personas viven y trabajan en un lugar en particular.
Finalmente, estas lecciones proporcionarán una visión general de ocho temas diferentes entre los principios de IA identificados por el Centro Berkman Klein: privacidad, responsabilidad, seguridad y protección, transparencia y explicabilidad, equidad y no discriminación, control humano de la tecnología, responsabilidad profesional y promoción de valores humanos.
Objetivos de aprendizaje:
- Describir la estructura de gobernanzas de los sistemas de IA
- Reconocer la responsabilidad de los órganos rectores
- Considerar los factores culturales en la ética de la IA
Habilidades que obtendrás
Aplicaciones de la inteligencia artificialSistemas de inteligencia artificialInteligencia artificialInteligencia de datosInteligencia medioambientalSistemas inteligentesLo que aprenderás
- Describir la estructura de gobernanza, regulación y política en torno a los sistemas de IA
- Reconocer la responsabilidad de los órganos de gobierno por las decisiones, acciones e inacciones de la IA
- Examinar la alineación de la IA con los valores humanos y el uso no intencionado o no ético de la IA
- Considerar factores culturales, lingüísticos y geográficos en la ética de la IA
- Identificar impactos externos e daños, incluyendo efectos ambientales y patrones oscuros
- Revisar los ocho temas de principios éticos de IA identificados por el Berkman Klein Center
Puntos clave
- El órgano de gobierno asigna responsabilidad por las iniciativas de TI en función de presiones comerciales, obligaciones regulatorias, expectativas de las partes interesadas y necesidades comerciales, y es en última instancia responsable de las decisiones, acciones e inacciones de la IA.
- La ética de la IA implica alineación con los valores humanos así como impactos externos indirectos como efectos ambientales.
- Los patrones oscuros son patrones de diseño engañosos utilizados para influir en individuos para que realicen una acción que puede no estar en su mejor interés.
- Las consideraciones culturales, las convenciones lingüísticas y los detalles geográficos se cruzan con la IA ética porque se basa en cómo las personas viven y trabajan en un lugar particular.
- El Berkman Klein Center identificó ocho temas entre los principios de IA: privacidad, responsabilidad, seguridad y protección, transparencia y explicabilidad, equidad y no discriminación, control humano de la tecnología, responsabilidad profesional, y la promoción de valores humanos.
Preguntas frecuentes
¿Qué temas cubre este curso?
Cubre el panorama de gobernanza en torno a la IA, alineación de la IA con los valores humanos, impactos externos como efectos ambientales, daño deliberado y patrones oscuros, la responsabilidad de los órganos de gobierno, factores culturales, lingüísticos y geográficos, y una descripción general de ocho temas de principios éticos de IA identificados por el Berkman Klein Center.
¿Qué son los patrones oscuros según se cubre en este curso?
Los patrones oscuros son patrones de diseño engañosos utilizados para influir en individuos para que realicen una acción que puede no estar en su mejor interés.
¿Qué principios éticos de IA se revisan?
El curso proporciona una descripción general de ocho temas identificados por el Berkman Klein Center: privacidad, responsabilidad, seguridad y protección, transparencia y explicabilidad, equidad y no discriminación, control humano de la tecnología, responsabilidad profesional, y la promoción de valores humanos.
¿A qué habilidades se relaciona este curso?
Se relaciona con habilidades incluyendo aplicaciones de inteligencia artificial, sistemas de inteligencia artificial, inteligencia artificial, inteligencia de datos, inteligencia ambiental, y sistemas inteligentes.
Transcripción
Transcripción
(música brillante) Muchas organizaciones ya cuentan con un marco de gobernanza para su tecnología de la información o TI. Existen muchas similitudes entre la gobernanza de la IA y el gobierno de TI. Comencemos con una estructura típica de gobierno de TI. La Organización Internacional de Normalización, o ISO. y la Comisión Electrotécnica Internacional, o IEC, proporcionar el siguiente marco general sobre el gobierno de TI. Los órganos de gobierno son los que asignan la responsabilidad para diversas iniciativas de TI, dadas las presiones comerciales, las obligaciones regulatorias, expectativas de las partes interesadas y las necesidades del negocio. El órgano de gobierno supervisa el desempeño y conformidad de los administradores, evalúa propuestas y planes y dirige la estrategia y las políticas. Este marco de gobernanza se centra en las personas y procesos de la organización para asegurar que exista una adecuada supervisión y rendición de cuentas. En última instancia, sin embargo, es el órgano rector de la organización que es responsable a los stakeholders de la organización son responsables de las decisiones, las acciones y la inacción. Esto incluye casos en los que no hay suficiente supervisión. de un área de la organización. En términos de ética de la IA, esto significa que el órgano de gobierno es el responsable último para asegurar que las políticas apropiadas alrededor de AI están en su lugar y se siguen. También son responsables de evaluar los riesgos involucrados en proyectos de TI y uso de tecnología. Pero la gobernanza de la IA difiere de un marco típico de gobierno de TI de varias maneras. La IA es más que una simple herramienta. Agrega inteligencia al marco de TI y los sistemas de decisión en los que trabaja. Recopilación de datos, limpieza, análisis, y el modelado se utilizan normalmente dentro de un sistema de IA, por lo que la gobernanza de la IA debe incluir políticas específicas, procesos y directrices para la recopilación de datos, la integridad y utilizar en la creación de un sistema de IA. Debe haber un marco para garantizar que los sistemas de IA representen los valores de los stakeholders de la organización. Esto incluye claridad en los límites. de responsabilidad cliente/proveedor. Sin embargo, ninguna de las consideraciones específicas para la tecnología de IA delega la responsabilidad de la gobernanza. Permanece en el órgano de gobierno. De hecho, es fundamental señalar que la rendición de cuentas del órgano de gobierno es indelegable.
Aprende sobre la marcha
Lleva tu aprendizaje a todas partes: la app de KnowledgeCity te permite ver las lecciones sobre la marcha.