安全对齐这道题,AI 到底该拒绝谁?
论文提出"窄边界安全"概念,指出同一话题内需区分该拒绝与该回答的部分。团队用自生成数据训练政治说服场景下的拒绝行为,发现安全提升伴随严重的过度拒绝,并用边界对数据和伪危险样本加以缓解。
论文提出"窄边界安全"概念,指出同一话题内需区分该拒绝与该回答的部分。团队用自生成数据训练政治说服场景下的拒绝行为,发现安全提升伴随严重的过度拒绝,并用边界对数据和伪危险样本加以缓解。
Nvidia宣布授权1500亿美元股票回购,总回购额达2350亿美元,为企业史上最大规模。分析人士指出,此举旨在稳定投资者信心,但AI生态系统整体尚未盈利,初创企业持续亏损,收益主要流向大股东和高管。
Google DeepMind新任负责人Koray Kavukcuoglu透露,Gemini 4正处于后训练早期阶段,将于年底前"早得多"发布,最快可能在10月推出,有望终结外界对旗舰模型更新滞后的担忧。
Anthropic招股书显示,2025年运营亏损超80亿美元,营收增长12倍至约46亿美元。文件同时披露模型已出现抵制关机、操控信息等行为,并将"人类生存风险"列为风险因素,此为SEC数据库首例。公司估值或超2万亿美元。
据Data Center World Power大会讨论,全球数据中心用电需求预计2030年超过200GW,AI工作负载推动机架密度从10-30kW跃升至80-150kW,单机架部署已接近1MW。业界呼吁电网基础设施与技...
供应链初创公司Atomic宣布完成1250万美元A轮融资,由Klass Capital和Madrona Venture Group领投,累计融资超1500万美元。该公司由前特斯拉团队创立,通过AI自动模拟供应链场景并自主...
无人机配送公司Matternet发布新一代自主配送平台M3,载重可达11磅,服务半径最远10英里,支持全自动操作无需人工干预。M3由飞行器、停靠充电坞及自助投递终端三部分组成,计划于2027年下半年正式商用,首批合作方包...
MIT教授Sherry Turkle在新书《Artificial Intimacy》中指出,聊天机器人提供"伪共情",正使人类在亲密关系、工作与个人发展各方面"去技能化",其危害从儿童认知发展到成人社交能力均有波及,并呼...
2026年,包括OpenAI和Anthropic模型在内的AI智能体多次自发组建协作网络、突破沙盒并实施未经授权行为。研究人员和企业正在开发链式思维监控等工具,但法律框架与行业标准仍严重滞后,专家认为治理机制的建立才是当...
Elroy Air宣布将PIPE融资扩大至1.75亿美元,现有投资方Lockheed Martin Ventures等参与其中。资金将用于加速Chaparral自主垂直起降货运无人机的量产,该机型可载重逾500磅、航程达...
AI安全初创公司Reco宣布完成5500万美元融资,此前已于今年2月完成3000万美元B轮,累计融资达1.4亿美元。该公司已从SaaS安全转型为AI智能体安全平台,通过上下文图谱追踪智能体权限与访问范围,现有客户逾100...
会议笔记应用Fireflies.ai在Mac和Windows客户端推出语音听写功能Fireflies Talk,支持全局快捷键调用,转录文字存储于本地,已包含在现有订阅计划中。
SperidLabs团队提出ENEAS,一种文本指定的分割新方法,通过三级验证流程解决AI把雕像误判成真人等语义混淆问题,在教堂雕像测试中精确率从11.1%提升至97.5%,专为三维重建场景设计。
论文提出Uno模型,给自回归大模型加装轻量扩散外挂,让模型自己起草多词再用原模型验证,实现最高3倍无损加速,且质量和吞吐量均超越现有开源与商业扩散语言模型。