Description du cours
Dans ces leçons sur la responsabilité professionnelle et le contrôle humain de l'IA, vous apprendrez le principe général du contrôle humain de la technologie et comment il recoupe le développement de systèmes d'IA. Vous verrez également comment la responsabilité des concepteurs est liée à la gouvernance du système d'IA et à la collaboration multipartite afin de permettre une rétroaction précieuse sur la conception du système et son impact sur divers groupes de parties prenantes.
Le contrôle humain de la technologie est un ensemble plus général de principes qui régissent les systèmes technologiques en général. En construisant des systèmes de décision automatisés, nous transférons le contrôle de ces décisions d'un système humain à un système d'IA. Il est donc essentiel de se demander pourquoi et quand les humains doivent examiner les décisions d'un système d'IA. Dans ces leçons, vous explorerez le principe de la capacité d'intervention humaine, y compris la façon dont les humains peuvent prendre la décision des actions à déléguer à un système technologique. Vous comprendrez également pourquoi les systèmes d'IA devraient permettre aux humains d'intervenir dans les décisions et les actions prises par le système.
Parce que les professionnels qui travaillent dans la conception, la création et la mise en œuvre de systèmes d'IA ont un point de vue unique, ils peuvent voir un système d'IA d'une manière que les autres ne peuvent pas. Vous apprendrez comment la responsabilité des concepteurs en tant que principe est liée à la gouvernance des systèmes d'IA. Vous aurez également un aperçu de la responsabilité des concepteurs d'un système d'IA, y compris les impacts à long terme d'un système d'IA.
Enfin, vous en découvrirez la collaboration multipartite comme moyen d'entendre les préoccupations concernant la conception du système et son impact sur divers groupes de parties prenantes, ainsi que l'importance de la collaboration internationale pour le développement de systèmes d'IA.
Ce que vous allez apprendre
- Comprendre le principe général du contrôle humain de la technologie et la façon dont il recoupe le développement des systèmes d'IA
- Expliquer pourquoi et quand les humains doivent examiner les décisions d'un système d'IA
- Appliquer le principe de capacité d'intervention humaine, y compris décider quelles actions déléguer à un système technologique
- Décrire les responsabilités uniques des concepteurs et comment cette responsabilité est liée à la gouvernance des systèmes d'IA
- Évaluer les impacts à long terme d'un système d'IA du point de vue du concepteur
- Décrire la collaboration multipartite (multistakeholder) comme un moyen de recueillir des commentaires sur la conception du système et son impact sur les groupes de parties prenantes
Points clés à retenir
- Le contrôle humain de la technologie est un ensemble général de principes qui régissent les systèmes technologiques, et il recoupe la façon dont les systèmes d'IA sont développés.
- La construction de systèmes de décision automatisés transfère le contrôle de ces décisions d'un humain à un système d'IA, ce qui rend essentiel de considérer pourquoi et quand les humains devraient examiner les décisions du système.
- Les systèmes d'IA doivent permettre aux humains d'intervenir dans les décisions et les actions du système, et ce sont les humains qui décident quelles actions déléguer à un système technologique.
- Les professionnels travaillant dans la conception, la création et la mise en œuvre de systèmes d'IA ont un point de vue unique. La responsabilité des concepteurs est donc liée à la gouvernance des systèmes d'IA et aux impacts à long terme du système.
- La collaboration multipartite et internationale permet de faire remonter les préoccupations concernant la conception du système et son impact sur les différents groupes de parties prenantes.
Foire aux questions
Que couvre ce cours ?
Il couvre la responsabilité professionnelle et le contrôle humain de l'IA, y compris l'examen humain des décisions, la capacité d'intervention humaine, la responsabilité des concepteurs, les impacts à long terme des systèmes d'IA, et la collaboration multipartite (multistakeholder).
À qui s'adresse ce cours ?
Il s'adresse aux professionnels travaillant dans la conception, la création et la mise en œuvre de systèmes d'IA, qui ont un point de vue unique sur le fonctionnement d'un système d'IA.
Quelles compétences vais-je acquérir ?
Le cours développe des compétences en matière de responsabilisation (accountability), de responsabilité professionnelle, d'intelligence artificielle et de systèmes d'IA, de développement de l'IA, et de définition des rôles et des responsabilités.
Quels sont les principaux objectifs d'apprentissage ?
Comprendre la relation de l'IA avec le contrôle humain de la technologie, comprendre les responsabilités uniques des concepteurs, et décrire la collaboration multipartite (multistakeholder) pour des systèmes d'IA éthiques.
Pourquoi l'intervention humaine est-elle soulignée dans ce cours ?
Parce que la construction de systèmes de décision automatisés transfère le contrôle des humains vers les systèmes d'IA, le cours explique pourquoi les systèmes d'IA doivent permettre aux humains d'intervenir et comment les humains décident quelles actions déléguer à un système technologique.
