降低(道德)实验的门槛

Explore discuss data innovations to drive business efficiency forward.
Post Reply
jrineakter
Posts: 407
Joined: Thu Jan 02, 2025 7:18 am

降低(道德)实验的门槛

Post by jrineakter »

机器学习在那些更容易、更便宜地将创意从实验室转移到应用,并组织实验以产生有关不同产品和服务影响的可靠数据的领域取得了最大的影响。然后,那些最具潜力的创意可以利用按需云计算资源以(相对)低廉的成本扩大到生产。由此产生的反馈循环通过提高这些投资的预期回报,增加了对机器学习的投资激励——很容易识别和扩展有利可图的创意,并停止/调整并从那些被证明不成功的想法中吸取教训。

虽然严格的实验是应对健康、教育和国际发展等社会挑战的主流努力的核心,但将实验方法与机器学习相结合的项目,或在在线环境中测试机器学习建议以造福社会的项目却很少。前者的一个有趣案例是国际救援委员会的实验,该实验旨在测试不同的就业援助计划对约旦叙利亚难民结果的影响;这项实验使用机器学习将参与者分配到不同的干预措施中,同时考虑到已了解到哪些干预措施更适合不同的群体。我们还看到了模拟的创新用途,用于在保释决定中将机器学习预测与人类基线进行比较,在这种情况下进行受控实验是不道德的。

从更广泛的角度来看,我们认为有很多机会可以利用机器学习来个性化和调整干预措施,而这些干预措施目前采用的是“一刀切”的方法——这是公共服务交付的标准模式。然而,一个关键的挑战是以一种有益且尊重个人自主权的方式来做到这一点。

这对 Nesta 的数据分析实践有何影响?
在未来的几个月和几年里,我们将利用 Nesta 独特的 孟加拉国电话号码数据 围绕我们使命的专业知识和创新方法的技术专长,有效地部署机器学习来应对社会挑战,同时降低其风险。

我们将与我们的任务团队、一线工作人员、有生活经验的人以及其他 Nesta 实践(例如设计和集体智能设计)密切合作,以确定有益且包容的 ML 用例来推进我们的任务。我们将积极寻找丰富和加强 ML 技术生成的证据的方法组合(包括通过实验来评估其影响),同时确保我们的进展指标是全面和包容的,并且不鼓励操纵和作弊。

我们将评估我们开展业务的任务领域的数据生态系统的状态,寻找战略机会来创建新颖、高质量的数据集和数据收集基础设施,从而降低以安全和合乎道德的方式采用机器学习的障碍。作为这项数据生成和管理工作的一部分,我们将使用“数据集数据表”等方法仔细记录与任务相关的数据,其中数据集的来源和组成以标准形式仔细记录,以便每个人都了解其潜在用途和局限性。我们还将发布我们创建的代码、工具和模型,以便其他人可以查看和构建它们,为我们工作的任务领域的机器学习项目提供支持的技术基础设施做出贡献。

我们所有的机器学习工作都将遵循强有力的数据公正和道德原则,并借鉴越来越多正在开发的参与式机器学习方法,目标是让相关社区参与进来,确保机器学习干预措施能够满足这些社区的需求、识别和缓解风险并提高合法性。我们将寻求在与我们合作的利益相关者和社区中培养机器学习能力 - 使他们能够理解这些方法并应用它们来满足他们的需求,但在产生负面影响和不可接受的风险时挑战它们的使用。

当我们开始部署机器学习方法来实现我们雄心勃勃的使命,即创造更美好的开端、健康的生活和可持续的未来时,Nesta 可以从其他领域学到很多东西。我们相信,通过结合多种学科,对我们的数据和代码保持开放,并在项目选择和开发过程中以道德和正义为导向,我们可以创建一个负责任的创新循环,从而增强机器学习对公共利益的贡献。未来,我们希望机器学习能够帮助社会工作者、教师和护士完成他们的工作,就像它已经为我们理解生命的基石做出了贡献一样。
Post Reply