谷歌正在向全球更多开发者推出其 Gemini 2.0 Flash AI 模型的最新"实验性"功能,人们发现它具有一些令人担忧的能力,包括从照片中删除水印。
该公司的轻量级本地设备 AI 模型现在配备了原生图像生成功能,不仅可以根据文字提示生成图片,还可以让用户以对话方式编辑图片。据 TechCrunch 报道,在周末期间,用户们发现它还能精确地移除水印。
像 Watermark Remover.io 这样的工具已经可以清除来自 Shutterstock 等公司的水印,而谷歌的一个研究团队在 2017 年就开发了一个水印移除算法,以强调需要更安全的保护措施。相反,一些 AI 工具(如 OpenAI 的 GPT-4)会拒绝移除水印的请求。
然而,Gemini 2.0 Flash 似乎在移除复杂水印(如 Getty Images 标记)并填充图像方面表现得比其他选择更好。在移除水印后,它会添加一个 SynthID 标记,实际上是用"AI 编辑"标记替换了版权标记。但正如我们之前在三星的对象擦除工具中看到的那样,使用 AI 也可以移除 AI 标记。
用户还注意到,Gemini 2.0 Flash 显然可以将真实人物(如 Elon Musk)的可识别图像添加到照片中,这是完整版 Gemini 模型所不允许的。
目前,Flash 的最新图像功能仅通过 AI Studio 向开发者开放——因此其明显缺乏保护机制的特性并未对所有人开放使用(或滥用)。我们已经询问谷歌是否有相关保护措施来阻止水印移除等行为,但尚未收到回复。
好文章,需要你的鼓励
工业升级的关键,或许在于智能本身。“工业+机器人”将成为通向下一阶段工业体系的核心抓手。——黄仁勋。
浙江大学等联合研究发现,AI强化学习效果取决于"模型-任务对齐"程度。当AI擅长某任务时,单样本训练、错误奖励等非常规方法也有效;但面对陌生任务时,这些方法失效,只有标准训练有用。研究团队通过大量实验证实,这种"舒适圈"现象比数据污染更能解释训练差异,为AI训练策略优化提供了新思路。
瑞士政府正式发布了自主研发的人工智能模型,该模型完全基于公共数据进行训练。这一举措标志着瑞士在AI技术自主化方面迈出重要一步,旨在减少对外国AI技术的依赖,同时确保数据安全和隐私保护。该模型的推出体现了瑞士对发展本土AI能力的战略重视。
巴赫切希尔大学研究团队通过对五种不同规模YOLO模型的量化鲁棒性测试发现,静态INT8量化虽能带来1.5-3.3倍速度提升,但会显著降低模型对噪音等图像损伤的抵抗能力。他们提出的混合校准策略仅在大型模型处理噪音时有限改善,揭示了效率与鲁棒性平衡的复杂挑战。