值得信赖的人工智能——以人为本的要求

Explore discuss data innovations to drive business efficiency forward.
Post Reply
suchona.kani.z
Posts: 245
Joined: Sat Dec 21, 2024 5:38 am

值得信赖的人工智能——以人为本的要求

Post by suchona.kani.z »

商业组织决策过程领域的重要科学家赫伯特·西蒙 (Herbert Simon) 在 1955 年左右沿着理性思维过程定义了问题解决过程:

1. 给出一组替代方案。
2. 每个替代解决方案都分配有特定的附加值(例如,利润中的金额 x)。
3. 对这些特定附加值的偏好是已知的。
如果充分了解此信息(解决方案替代方案、额外好处和偏好),则可以确定最佳解决方案替代方案。心理学家 Daniel Kahnemann 和 Amos Tversky 后来强调(大约 1982 年),人类决策者的一个关键优势和劣势是对结构不良的问题做出判断的能力。到目前为止,人工智能应用程序在这方面遇到了困难。

卡内基学院发展的组织理论假设一个人的理性化能力有限。这是由于处 商家现金预付电子邮件营销 理大量信息的限制造成的。其中包括趋势分析等任务,这些任务以前需要评估大量数据,尤其是不同的数据源,而这往往超出了人的认知能力。因此,人类决策过程仅基于较小的解决方案空间,即解决问题的替代方案较少或可考虑的信息和数据较少。为了减轻有限信息处理的风险和缺点,公司结构中的决策过程被分散在许多决策者的肩上。

人工智能已经存在于许多日常服务、产品和公司流程中。在商业环境中,人工智能应用程序已经完成了任务中重要的认知关键活动——例如在解决决策问题时。在《杜登》中,“认知”一词被定义为“与感知、思考和识别有关”。在管理研究中,人类的合作与协作形式已被广泛研究,并且仍然是一个活跃的研究领域。

从管理角度来看,人工智能的引入相当于公司引入新的代理人,从而增加了公司结构的复杂性。此外,这也直接影响我们的决定。因此,必须提出这样的问题:如何设计将此类人工智能代理可靠地集成到现有的企业结构和劳动力中。特别是,从社会技术角度来看,在透明度、公平性、可解释性、安全性和隐私等原则的驱动下,有关可信人工智能的问题日益凸显。问题是根据这些原则,技术设计会是什么样子,以及人与机器之间的交互应该如何进行。

由于人工智能需要透明或公平的要求,IT实施在某种程度上超出了史诗的水平。
Post Reply