通用电气为算法引入业务风险考量，试用“谦逊人工智能”

至顶网软件频道消息：通用电气认为，人工智能可以具备一定程度的谦逊，算法将有足够的意识来了解它们不知道的东西。

通用电气研究公司表示，它一直在其风电场和燃气轮机的数字化双胞胎部署试用“谦逊人工智能”。该计划旨在将谦逊人工智能注入GE的数字化双胞胎产品和服务。

谦逊人工智能指的是在遇到算法无法识别的情况时，具备默认切换到已知安全操作模式的能力。

在安全模式下操作时，谦逊人工智能可以通过收集更多操作数据、人类工程师的输入，与其他资产的关联以及运行其他模拟和场景来学习新情况。

通用电气全球研究公司软件研究副总裁Colin Parris表示，该公司的谦逊人工智能方法正在风电场进行试点。Parris表示：“我们希望向算法引入业务风险的概念，并为你提供模型失败的早期预警和预测……了解我将这些资产引入哪些商业风险。”

Parris解释说，人工智能背后的主要思想是，模型将了解他们的能力以及他们具有高度自信的领域。如果模型看到的是其置信区之外的东西，比如温度范围，那么该模型将足够谦逊，知道自己在这方面不自信。

Parris 解释说：“人工智能应该谦虚地知道它不在其能力范围之内，并转向标准操作。”

Parris表示，归根结底，谦逊人工智能的承诺是，它能够以更低的商业风险提供更快的价值。