中级
提供者 : Briana Brownell
5 课时 · 8m
语言：阿拉伯语, 德语, 英语, 西班牙语, 法语, 葡萄牙语, 简体中文
课程描述
在这些关于AI的专业责任和人类控制的课程中，您将了解人类控制技术的广泛原则以及它如何与AI系统开发相交。您还将看到设计者的责任如何与AI系统治理和多利益相关者协作相关联，以实现有关系统设计及其对各种利益相关者群体的影响的宝贵反馈。
人类对技术的控制是一套更普遍的原则，用于管理一般的技术系统。通过构建自动化决策系统，我们将这些决策的控制权从人类转移到人工智能系统。因此，必须考虑人类为何以及何时应该审查人工智能系统的决策。在这些课程中，您将探索人类干预能力的原则，包括人类如何决定将哪些行动委托给技术系统。您还将理解为什么人工智能系统应该允许人类干预系统做出的决策和行动。
由于从事AI系统设计、创建和实施工作的专业人员具有独特的优势，他们可以以其他人无法看到的方式看待AI系统。您将了解设计师的责任作为一项原则如何与AI系统的治理相关联。您还将大致了解AI系统设计者的责任，包括AI系统的长期影响。
最后，您将了解多利益相关者协作，以此来听取对系统设计及其对不同利益相关者群体的影响的担忧，以及国际合作对AI系统开发的重要性。
您将学到的内容
- 理解人类控制技术的广泛原则及其与 AI 系统开发的交叉关系
- 阐释人类应在何时以及为何审查 AI 系统决策
- 应用人类干预能力原则，包括决定将哪些行动委托给技术系统
- 描述设计师的独特职责以及该职责与 AI 系统治理的关联
- 从设计师视角评估 AI 系统的长期影响
- 将多利益相关方协作描述为收集系统设计反馈及评估其对各利益相关方群体影响的方式
关键要点
- 人类对技术的控制是一套管理技术系统的通用原则，与 AI 系统的开发方式密切相关。
- 构建自动化决策系统将决策控制权从人类转移至 AI 系统，因此必须考虑人类应在何时以及为何审查系统决策。
- AI 系统应允许人类干预其所做的决策和行动，并由人类决定将哪些行动委托给技术系统。
- 从事 AI 系统设计、创建和实施的专业人员拥有独特的视角，因此设计师的职责与 AI 系统的治理及系统长期影响密切相关。
- 多利益相关方与国际协作有助于发现系统设计方面的隐患及其对各利益相关方群体的影响。
常见问题
本课程涵盖哪些内容？
课程涵盖职业责任与 AI 人类控制，包括对决策的人工审查、人类干预能力、设计师的职责、AI 系统的长期影响以及多利益相关方协作。
本课程适合哪些人？
本课程面向从事 AI 系统设计、创建和实施的专业人员，他们对 AI 系统的运作方式拥有独特的视角。
我将获得哪些技能？
课程培养问责制、职业责任、人工智能与 AI 系统、AI 开发以及角色与职责界定等方面的技能。
主要学习目标是什么？
理解 AI 与人类技术控制的关系，了解设计师的独特职责，以及描述构建合乎道德的 AI 系统所需的多利益相关方协作。
为什么本课程强调人类干预？
由于构建自动化决策系统会将控制权从人类转移至 AI 系统，本课程阐释了为何 AI 系统应允许人类干预，以及人类如何决定将哪些行动委托给技术系统。
