谷歌正在向全球更多开发者推出其 Gemini 2.0 Flash AI 模型的最新"实验性"功能,人们发现它具有一些令人担忧的能力,包括从照片中删除水印。
该公司的轻量级本地设备 AI 模型现在配备了原生图像生成功能,不仅可以根据文字提示生成图片,还可以让用户以对话方式编辑图片。据 TechCrunch 报道,在周末期间,用户们发现它还能精确地移除水印。
像 Watermark Remover.io 这样的工具已经可以清除来自 Shutterstock 等公司的水印,而谷歌的一个研究团队在 2017 年就开发了一个水印移除算法,以强调需要更安全的保护措施。相反,一些 AI 工具(如 OpenAI 的 GPT-4)会拒绝移除水印的请求。
然而,Gemini 2.0 Flash 似乎在移除复杂水印(如 Getty Images 标记)并填充图像方面表现得比其他选择更好。在移除水印后,它会添加一个 SynthID 标记,实际上是用"AI 编辑"标记替换了版权标记。但正如我们之前在三星的对象擦除工具中看到的那样,使用 AI 也可以移除 AI 标记。
用户还注意到,Gemini 2.0 Flash 显然可以将真实人物(如 Elon Musk)的可识别图像添加到照片中,这是完整版 Gemini 模型所不允许的。
目前,Flash 的最新图像功能仅通过 AI Studio 向开发者开放——因此其明显缺乏保护机制的特性并未对所有人开放使用(或滥用)。我们已经询问谷歌是否有相关保护措施来阻止水印移除等行为,但尚未收到回复。
好文章,需要你的鼓励
CIO们正面临众多复杂挑战,其多样性值得关注。除了企业安全和成本控制等传统问题,人工智能快速发展和地缘政治环境正在颠覆常规业务模式。主要挑战包括:AI技术快速演进、IT部门AI应用、AI网络攻击威胁、AIOps智能运维、快速实现价值、地缘政治影响、成本控制、人才短缺、安全风险管理以及未来准备等十个方面。
北航团队发布AnimaX技术,能够根据文字描述让静态3D模型自动生成动画。该系统支持人形角色、动物、家具等各类模型,仅需6分钟即可完成高质量动画生成,效率远超传统方法。通过多视角视频-姿态联合扩散模型,AnimaX有效结合了视频AI的运动理解能力与骨骼动画的精确控制,在16万动画序列数据集上训练后展现出卓越性能。
过去两年间,许多组织启动了大量AI概念验证项目,但失败率高且投资回报率令人失望。如今出现新趋势,组织开始重新评估AI实验的撒网策略。IT观察者发现,许多组织正在减少AI概念验证项目数量,IT领导转向商业AI工具,专注于有限的战略性目标用例。专家表示,组织正从大规模实验转向更专注、结果导向的AI部署,优先考虑能深度融入运营工作流程并产生可衡量结果的少数用例。
这项研究解决了AI图片描述中的两大难题:描述不平衡和内容虚构。通过创新的"侦探式追问"方法,让AI能生成更详细准确的图片描述,显著提升了多个AI系统的性能表现,为无障碍技术、教育、电商等领域带来实用价值。