如果分类是关于某个地区的人是否因为来自该地区的其他人取消贷款的数量增加而没有获得贷款呢？
通过深度学习，机器可以自行计算出分类。为此，它使用由模拟神经细胞组成的人工神经网络，该网络基于大量数据进行学习。机器视觉领域的面部识别就是一个例子。数据的数量和质量在这里至关重要。一个典型的例子是：图像数据集中没有足够的有色人种，这意味着面部识别对有色人种的识别效果比有色人种更差。在这里，人类的影响力较小，因为算法是“无监督的”——即不受人类控制。
然而，在这两种情况下，都有一些措施来建立正确的人工智能道德或让人工智能做出更好的道德决策。
加州大学伯克利分校计算机科学教授斯图尔特·J·拉塞尔 (Stuart J. Russell) 在其著作《人类兼容：人工智能与控制问题》中给出了一个恰当的例子，说明人工智能的伦理方面的影响有多么深远。他提到了社交媒体中的选择和推荐算法：它们并不是特别智能，但却影响了数十亿人。 Deepfakes 也是一个新颖的例子。这是看似真实但已在人工智能或深度学习的帮助下发生改变的媒体内容（视频、音频文件或照片）。这些行为尤其不道德，因为他们故意操纵人们。
人工智能伦理相关措施
您可以采取几个步骤来创建适合您公司的道德人工智能应用程序。它从 制造电邮清单 用于机器学习算法的数据开始。数据始终分为两个数据集：训练数据集用于创建 AI 模型，该模型能够使用算法和新收集的数据做出（自动）决策。继续使用上面的简单示例，此处将根据颜色属性将水果分类为苹果或梨。现在使用验证数据集测试该人工智能模型的“准确性”。 （红色水果的结果真的表明它是苹果吗？）这就是人类或数据科学家发挥作用的地方。数据科学家检查结果并检查AI模型是否需要调整——例如，验证数据集中有水果无法分配为红色或绿色。
在这里，数据科学家可以考虑是否应该添加更多属性 - 例如，苹果是圆形的，梨是椭圆形的，以提高结果的准确性。在人工智能领域，这个过程被称为特征选择或特征工程，间接也属于人工智能伦理领域。这里不会对水果做出不道德的决定，但如果我们将水果转换回个人 XY 的信用度，那么我们必须小心合并的数据和属性是否符合道德标准。
以下措施可帮助员工和团队做出决策，从而提高人工智能道德规范：
在开发人工智能应用程序时，应始终将不同性别、文化等的混合团队放在一起，以便评估最大程度的不同决策选项，从而抵消无意识的偏见。
有一些关于如何更加了解无意识偏见的培训课程。例如，微软公司就将此类培训课程作为公司的标配，每个新员工都必须参加此类培训。
adesso 有自己的内部活动 - 称为 adesso MIND - 促进更多正念互动。对人类同胞和同事的欣赏和欣赏会带来更多的接受和更少的分类，即更少的无意识偏见。
谷歌、微软以及欧盟委员会（例如）已经制定并引入了人工智能道德原则（欧盟：“值得信赖的人工智能道德准则”），以确保与人工智能道德相关的措施。数据保护和安全在这些原则中也发挥着重要作用。
在与伦理相关的场景中，数据必须始终由均匀分布的属性组成，也就是说，数据集中可用的属性 X 的数据必须与属性 Y 的数据一样多，以免造成任何不利。
adesso与New School of IT一起定义并推出了进一步的措施，我想在下面向您详细介绍。