Ética y responsabilidad en la IA: la inteligencia artificial y los sistemas sociotécnicos

(música suave) Los derechos humanos están íntimamente ligados a los valores humanos. Estos valores se cruzan con todos los aspectos de la sociedad, incluida la inteligencia artificial y sistemas tecnológicos creados en torno a la IA. Como tal, es vital que los sistemas de IA diseñados éticamente promover los valores humanos y los derechos humanos, impactando positivamente a la humanidad y a la sociedad. El ritmo del desarrollo de nueva tecnología es extremadamente rápido. Como resultado de la velocidad a la que se están produciendo los cambios, apenas estamos comenzando a armar la rendición de cuentas y marcos éticos a su alrededor. Por el contrario, los valores humanos evolucionan mucho más lentamente. Las leyes de derechos humanos tienen décadas, ya veces incluso siglos de historia. Este contraste de ritmo significa que es importante para ver las nuevas tecnologías digitales, incluida la inteligencia artificial, a través de la lente de los derechos humanos ya establecidos, y las formas en que la IA podría afectar los valores humanos, y también cambiar las normas sociales. El documento estándar a consultar en materia de derechos humanos es la Declaración Universal de los Derechos Humanos, o DUDH. La DUDH fue redactada por representantes con muchos trasfondos culturales diferentes, y fue proclamado como norma común en 1948 por la Asamblea General de las Naciones Unidas. Este importante documento enumera los derechos humanos fundamentales que hay que proteger. Muchos grupos se han preguntado acerca de la intersección de los derechos humanos y la IA, en particular cómo la privacidad, la igualdad, y se defienden diversas libertades, o potencialmente violada por los sistemas de IA. Ha habido intentos de documentar y analizar esta intersección por entidades del sector público, corporaciones, grupos sin fines de lucro, y organizaciones internacionales. Pero no todos los grupos discuten la IA ética han incluido un análisis explícito de cómo estas éticas se cruzan con los derechos humanos. Quizás sorprendentemente, documentación de principios del sector privado es más probable que material del sector público mencionar y discutir la intersección de la gobernanza de IA en derechos humanos. Un documento importante que sí analiza la intersección de los derechos humanos y la IA es la Declaración de Toronto. Que fue emitido por grupos como Amnistía Internacional y Access Now, y se publicó en 2018. Este documento trata específicamente el potencial de la tecnología de IA para dañar los derechos humanos, y que la responsabilidad por estos daños debería ser considerado. La Declaración de Toronto propone responsabilidades y obligaciones de los gobiernos así como del sector privado. Considera ampliamente el derecho a la igualdad, y requiere que haya una manera mediante el cual se pueden remediar las violaciones. Prevenir la discriminación es una de los requisitos más importantes de la declaración. Con respecto al sector público, el documento enumera los pasos que se deben tomar para mitigar los daños debidos a la discriminación. Uno, los riesgos deben identificarse antes de su uso. y evaluarse continuamente después de implementar el sistema de IA. Esta evaluación de riesgos puede incluir realizar evaluaciones de impacto y auditar sistemas activos, así como revelar las limitaciones del sistema. Dos, se debe asegurar la transparencia y la rendición de cuentas, y estos sistemas deben ser explicables e inteligibles. La transparencia incluye tres partes importantes. A, proporcionando un aviso donde los sistemas de aprendizaje automático se utilizan y cómo funcionan. B, auditoría de los sistemas y la capacidad de ser analizado por expertos independientes. C, evitando los sistemas de caja negra. Tres, se debe hacer cumplir la supervisión, incluida la búsqueda proactiva de diversas perspectivas y asegurar que se lleve a cabo el debido proceso. Además, cuando las organizaciones del sector público adquirir tecnología del sector privado, deben asegurarse de tener suficiente supervisión en el funcionamiento del sistema para cumplir con sus propios requisitos éticos y de gobierno. Organizaciones del sector privado también tienen responsabilidades específicas. Identificar los resultados de su sistema eso puede ser discriminatorio. Mitigar la discriminación mediante la adopción de medidas eficaces y el seguimiento de los resultados de esas acciones. Ser transparente sobre estos esfuerzos. Esta declaración subraya que la tecnología no debe socavar los derechos humanos, y que estas obligaciones deben cumplirse para garantizar que se protejan los derechos humanos. Aunque existen diferentes obligaciones para entidades del sector público y privado, la Declaración de Toronto deja claro que todas las organizaciones son parte de un ecosistema mayor. Cada uno juega un papel en la defensa de los valores humanos, respetando los derechos humanos, y garantizar que los sistemas de IA se diseñen y utilicen de manera ética.