我们既需要人类对机器的监督,也需要机器对人类的监督。

Explore discuss data innovations to drive business efficiency forward.
Post Reply
jrineakter
Posts: 407
Joined: Thu Jan 02, 2025 7:18 am

我们既需要人类对机器的监督,也需要机器对人类的监督。

Post by jrineakter »

当然,许多参与数据和人工智能的人都在努力实现更好的结果。更好的交付时间表、点击结果或诊断。结果指标推动了初创企业和大型跨国公司正在进行的大部分艰苦工作(超参数优化方法使这一点正式化)。与此同时,一些人也在努力解决更复杂系统的结果——比如卫生系统或多式联运系统。

但搞砸的风险很高。工程理论一直认为,你可以优化系统的一个元素,但整个系统却没有达到最佳状态。有些人开始努力解决这个问题——尤其是因为 Facebook 优化点击率的方式严重损害了邻近的系统——民主。教育技术等领域充满了这样的工具,它们似乎能带来成果,但放在上下文中看,效果却微乎其微(正如比尔盖茨上个月所说,至少教育技术可能没有造成太大的伤害)。但我一直在努力寻找真正基于成果的人工智能方法的理论、框架和例子,却一无所获。

这是为什么呢?如果你真的想要更智能的结果,以及能够持 华侨欧洲数据 续实现更智能结果的系统,那么很快就会得出三个结论,所有这些结论都挑战了当前的人工智能正统观念,并应该推动其先驱者开发新的方法。

首先,就像人脑一样,现实系统中的智能取决于许多元素的结合:观察、数据、记忆、创造力、运动协调、判断和智慧。人工智能可以为其中一些元素做出巨大贡献,例如在存在大量数据集的情况下进行预测、记忆组织或仓库和推荐引擎的管理。但它对其他元素贡献甚微,尤其是那些涉及不确定条件下细微判断的元素。因此,一个显而易见的结论是,任何严肃的智能设计都必须关注混合:机器和人类智能的结合。这在实践中一直都在发生。但令人惊讶的是,几乎没有成文的方法。

第二个结论是,这种结合工作需要相当复杂的设计,例如包括鼓励人们分享正确想法和信息的机制、共享分类法、激励措施、文化以及防范偏见和系统错误的风险。我们需要,而且将来会更加需要,人类对机器的监督和机器对人类的监督。计算机和数据科学为如何设计这些过程提供了一些重要的见解——但如果没有心理学、组织学、经济学、决策科学和社会学,必然会出现巨大的错误。我经常遇到声称进行更全面设计的人。但当我要求他们分享他们的方法时,他们却沉默了,而且没有大学教授这方面的知识(如果我错了,请分享课程)。


第三个结论是,现实世界中的智能涉及持续学习。人工智能对第一级学习有很大贡献——使算法(活动或过程)适应新数据。但它对第二循环学习帮助不大——即我们认识到我们现有的类别和框架不再适用,我们需要新的类别或概念来理解世界。人工智能可以在这种学习中发挥小作用,但在实践中不太适合,更不适合整个认知系统被重新设计的第三循环学习。人工智能通常是重新设计的认知系统的一部分,例如城市交通应该如何“思考”。但地球上没有人工智能可以设计新的操作系统本身。

这些观点强调了历史上一个深刻的教训,而这个教训在人工智能领域很少引起争论。人工智能经常被说成是一种“通用技术”,在我看来,它甚至会比过去的汽车或电力等技术更具通用性。但这些技术的一个重要教训是,它们是与互补性变化相结合而发展起来的。因此,汽车技术(内燃机、更安全的车身、可靠的发动机、混合动力、卫星导航)与规则(道路标记、速度限制、排放限制、减速带、标准、安全带、酒后驾驶)、公众技能(驾驶课程和考试)、规范(关于酒后驾驶、吸烟、污染、怠速)和相关创新(郊区、​​超市、平台出租车)同步发展。这些技术本身可能是有害的或无效的。与规则、规范和互补性创新相结合,它们变得强大而有用。

对于人工智能世界来说,迫切需要不同的思维方式来鼓励这种组合工作。我希望认真对待这种智能设计将以富有成效的方式将人工智能向邻近领域开放。我最关心的一个领域是集体智慧领域,简称CI。CI过去只涉及维基百科和“群体智慧”。但它在分析群体如何大规模思考、行动和学习方面变得更加成熟,涵盖的主题包括会议科学、数百万人如何为公民科学做出贡献的实用性、消费者如何为公司的工作做出贡献,或者民主如何让数十万人参与制定决策,而不仅仅是在选举和公投中投票。
Post Reply