至顶网软件频道消息:通用电气认为,人工智能可以具备一定程度的谦逊,算法将有足够的意识来了解它们不知道的东西。
通用电气研究公司表示,它一直在其风电场和燃气轮机的数字化双胞胎部署试用“谦逊人工智能”。该计划旨在将谦逊人工智能注入GE的数字化双胞胎产品和服务。
谦逊人工智能指的是在遇到算法无法识别的情况时,具备默认切换到已知安全操作模式的能力。
在安全模式下操作时,谦逊人工智能可以通过收集更多操作数据、人类工程师的输入,与其他资产的关联以及运行其他模拟和场景来学习新情况。
通用电气全球研究公司软件研究副总裁Colin Parris表示,该公司的谦逊人工智能方法正在风电场进行试点。Parris表示:“我们希望向算法引入业务风险的概念,并为你提供模型失败的早期预警和预测……了解我将这些资产引入哪些商业风险。”
Parris解释说,人工智能背后的主要思想是,模型将了解他们的能力以及他们具有高度自信的领域。如果模型看到的是其置信区之外的东西,比如温度范围,那么该模型将足够谦逊,知道自己在这方面不自信。
Parris 解释说:“人工智能应该谦虚地知道它不在其能力范围之内,并转向标准操作。”
Parris表示,归根结底,谦逊人工智能的承诺是,它能够以更低的商业风险提供更快的价值。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。