Ética y responsabilidad en la IA: la responsabilidad en la IA

(música brillante) En esencia, la rendición de cuentas es una pieza fundamental de la ética de la IA. La rendición de cuentas es relevante en todas las etapas del ciclo de vida de un sistema de IA, incluso durante el diseño y después del despliegue. Así como cuando se produzca algún daño como consecuencia del sistema. Es fácil imaginar un sistema de IA para el que ningún ser humano asume la responsabilidad de las decisiones tomadas por el sistema y por lo tanto nadie es responsable. De hecho, hay muchos sistemas de este tipo. que ya han sido creados. Pero el principio de responsabilidad dice que siempre debe haber un cuerpo de gobierno de humanos que son responsables del sistema de IA en todas sus etapas. Tener una política clara para la rendición de cuentas es especialmente importante cuando las tecnologías tienen el potencial para impactar a los humanos en una escala enorme. Y hay varios principios específicos adicionales que son importantes para la rendición de cuentas. Validación, evaluación y auditoría. La validación del modelo es una parte importante de la construcción cualquier sistema de IA. Las decisiones de diseño que se toman por el equipo que construye el modelo. Cómo, cuándo y qué datos se recopilan. Decisiones sobre limpieza de datos y exclusión de valores atípicos. Combinar y vincular fuentes de datos. Tratamiento de variables faltantes. Tener un impacto demostrable en el modelo final. Incluso qué método de modelado se utiliza y por qué puede hacer una gran diferencia en el impacto real del modelo en el momento del despliegue. La validación y la evaluación pueden incluir comprobaciones técnicas para ver qué tan preciso o robusto podría ser un modelo predictivo, incluyendo la identificación de falsos positivos y falsos negativos. También podría incluir la evaluación y el seguimiento que se realiza después de que se implementa la IA, junto con las decisiones tomadas en base a este desempeño. Por esta razón, las organizaciones están buscando formas para validar, evaluar y auditar externamente sus sistemas. Esto sugiere que en algunos casos, podría haber un organismo de control externo. Existe un debate sobre si este organismo de control sería interno a la organización o un grupo externo. Ambas posibilidades brindan desafíos a las organizaciones. buscando validación externa. Algunos países han sugerido normas nacionales o grupos que puedan asumir este rol. La validación, la evaluación y la auditoría son importantes componentes dentro de un marco de ética de IA adecuado. Pero las organizaciones deben ser proactivas para garantizar que estos principios sean sistematizados y creados explícitamente como parte de los procesos. Esto garantizaría la responsabilidad en el diseño, despliegue y evaluación de los sistemas de IA que construyeron.