ZD至顶网软件频道消息: 在平时的网络环境中,经常会出现一众臭名昭著的互联网恶棍在网上发出一些令人发指的评论,而这些话是任何有理智的人在现实生活中不会说的。重点是要跟踪和手动删除这些评论需要占用网络管理员的全部时间。
基于目前网络需求,谷歌和旗下的科技孵化器Jigsaw最近提出一个人工智能解决方案,这套解决方案以以应用程序编程接口的形式发布,名为Perspective的人工智能解决方案。据悉,该人工智能解决方案负责做所有的苦差事。
谷歌和Jigsaw曾在去年9月首次提及Conversations AI,Conversations AI是他们研发的人工智能程序,用于网贴评论的监督。Jigsaw总裁和创始人Jared Cohen表示,他希望"利用我们手头最好的技术对付恶棍和搞得网络鸡犬不宁的其他恶意元素。"
Cohen指,不良网络评论令许多人忍气吞声,不敢说话,他说Conversations AI可以帮助用户"铲平场子"。
Perspective利用Conversations AI定位网上的恶意行为,从而为人类监督者采取行动提供方便。Conversations AI不但可以找到明显的恶意行为,还可以根据回帖人的负面程度给回帖评分,因此可以有效地区分无关痛痒的玩笑和蓄意的骚扰。
谷歌在Perspective网站上演示了出版商如何利用滑动评分标准进行评论过滤。例如,出版商可以只允许没有任何消极东西的安全评论,或者可以放行除了诸如辱骂之类以外的所有评论。
另外,Perspective也支持对发帖者实时提醒,假若贴里含Perspective认为具挑衅的字眼,发帖者准备发帖时Perspective就会提醒发帖者,甚至可以在发帖者输入帖子内容时实时给出毒性指数。有兴趣的读者可以去Perspective网站试试这个功能。
尽管Perspective背后的意图是善意的,但该技术也有可能不是用来删无意义的恶意评论,而是用于审查。Google自己的例子是关于Brexit和气候变化的讨论,该例也表明有些理性的评论只是因为含有小孩不宜的演说词而可能被过滤掉。
过滤负面评论可以避免讨论太过激烈,但这样做也可能令本来具争议的话题被埋没而生出天下太平的假象,这样的话怕是也好不到哪里去。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
中科院联合字节跳动开发全新AI评测基准TreeBench,揭示当前最先进模型在复杂视觉推理上的重大缺陷。即使OpenAI o3也仅获得54.87%分数。研究团队同时提出TreeVGR训练方法,通过要求AI同时给出答案和精确定位,实现真正可追溯的视觉推理,为构建更透明可信的AI系统开辟新路径。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
PyVision是上海AI实验室开发的革命性视觉推理框架,让AI系统能够根据具体问题动态创造Python工具,而非依赖预设工具集。通过多轮交互机制,PyVision在多项基准测试中实现显著性能提升,其中在符号视觉任务上提升达31.1%。该框架展现了从"工具使用者"到"工具创造者"的AI能力跃迁,为通用人工智能的发展开辟了新路径。