Ética y responsabilidad de la IA: Transparencia y explicabilidad en la inteligencia artificial

(música suave) Cuando pensamos en la transparencia como principio para construir un sistema de IA, la mayoría de nosotros ya tenemos una idea de lo que significa. La transparencia permite la supervisión. Eso es porque un sistema transparente puede ser examinado en virtud de su transparencia. Así que el principio de transparencia sugiere que la supervisión de un sistema de IA debería ser posible. Hay varias formas en el que un sistema de IA debe ser transparente en su diseño e implementación. En términos de diseño, debe haber una divulgación completa en torno a cualquier dato utilizado para entrenar un modelo de aprendizaje automático, incluyendo cómo se recopilaron los datos, pasos de preprocesamiento, parámetros del modelo, y el algoritmo utilizado para generar el modelo. La transparencia también se aplica a los sistemas de IA que no usan el aprendizaje automático para revelar cómo la experiencia o el conocimiento se utiliza para informar el diseño del sistema de decisiones. es importante tener en cuenta esa preocupación por la transparencia se centra en las acciones del sistema, así como en su diseño. Estas acciones deben ser posibles de supervisar. Es tentador pensar en la transparencia. como un atributo de sí o no del sistema de IA. O el sistema es transparente o no. Pero, de hecho, hay muchas gradaciones. entre perfecta transparencia y opacidad. La estructura de decisión de un sistema puede ser transparente en términos de cómo se toma la decisión, pero los datos utilizados para generarlo pueden no ser transparentes porque los pasos de recopilación y procesamiento de datos tomada podría no haber sido debidamente revelada. Considere un sistema de IA construido alrededor de un árbol de decisión. Los árboles de decisión son una estructura común supervisada. método de aprendizaje automático que esencialmente genera un diagrama de flujo basado en datos de entrenamiento de entrada. Una vez generado, un árbol de decisión podría ser completamente sencillo y fácil de seguir, pero la justificación de la base de datos por qué el árbol de decisiones se creó de esa manera depende totalmente de los datos utilizados producir el modelo en primer lugar. El uso de un conjunto de datos incompletos o sesgados podría entonces generar decisiones completamente transparentes en términos de cómo el sistema está tomando decisiones, pero no en las razones por las cuales y si esas decisiones reflejan del paisaje en el que se despliega este sistema. Compare eso con un modelo de aprendizaje automático entrenado en un conjunto de datos estandarizado como el Instituto Nacional Modificado de Estándares y Tecnología, o conjunto de datos MNIST. Este conjunto de datos contiene imágenes de dígitos escritos a mano utilizados para la tarea de aprendizaje supervisado de reconocimiento de caracteres, y ha sido puesto a disposición por equipos de investigación académica. Los profesionales de la IA pueden utilizar sus propios algoritmo de aprendizaje automático para crear un supervisado modelo de aprendizaje automático basado en este conjunto de datos. Como resultado, se han utilizado muchos métodos diferentes para preprocesar estos datos, y se han aplicado muchas técnicas de modelado diferentes. Por tanto, la decisión de clasificación para una entrada específica y su rango de precisión es amplio. Así que ahora, tenemos un ejemplo de un caso. en el que el conjunto de datos puede ser completamente transparente pero la creación del modelo puede no serlo. Los practicantes pueden comenzar con diferentes técnicas de preprocesamiento, usar diferentes algoritmos, y estructurar de otro modo su proceso de construcción de modelos de manera diferente. Todas esas decisiones son importantes para la transparencia. del sistema final. La transparencia es importante en el diseño de cualquier sistema de IA, pero es especialmente importante cuando las decisiones tienen un alto impacto en quienes utilizan el sistema. Cualquier caso donde el resultado del sistema puede afectar significativamente el sustento y oportunidad de los afectados por ella debe esperar un alto grado de visibilidad. Pero a pesar de que querríamos esperarlo como consumidores y usuarios de estos sistemas, Históricamente, la transparencia no ha sido la norma. Sistemas como la puntuación de crédito y aquellos que intentan predecir la probabilidad de la conducta reincidente o delictiva de alguien rara vez son transparentes. En algunos casos, son deliberadamente opacos. En un contexto empresarial, la transparencia puede ir en contra de otros valores incluyendo el mantenimiento de secretos comerciales y propiedad intelectual. Es posible que las empresas no deseen compartir su salsa secreta con personas ajenas o incluso dentro de la propia empresa. En última instancia, debe haber un equilibrio entre las expectativas de transparencia y el impacto de un sistema.