在一个完美的世界中,新闻网站上的评论区应该是对世界上发生的各种事情进行理性讨论的好地方。不幸的是,我们并没有生活在一个完美的世界里,各种激烈尖锐的争论和谩骂经常会让网站选择完全关闭评论,而不是处理它们。
《纽约时报》正在试图通过使用人工智能来解决这个问题。今天,《纽约时报》推出了一个新的人工智能评论审核功能,该功能使用了Perspective,这是一个由Jigsaw构建的人工智能应用程序编程接口,Jigsaw是谷歌公司的母公司阿尔法集团退出的智囊团。《纽约时报》表示,这个被简单地称为“Moderator”的、新的人工智能将允许该网站为更多文章开放评论。
《纽约时报》在一份声明中表示,由于手工审核评论需要耗费的劳动量巨大,所以以前只允许对其约10%的文章进行评论。该报社表示,现在随着Moderator的推出,他们将能够允许对其约25%的文章发表评论,并希望最终将评论扩大到80%或更多的文章。
Moderator并没有自动化所有的审核流程,而是使用机器学习来帮助《纽约时报》的员工在更短的时间内审核更多的评论。使用谷歌的Conversation AI,Perspective会评估评论中的内容被认为是有害的可能性。人工智能会使用多种因素来评估每条评论,包括亵渎、种族主义言论和其他煽动性的语言。除了《纽约时报》之外,Perspective也被用于维基百科和《卫报》网站的内容审核。
在在线社区中使用人工智能审核已经成为一种日益增长的趋势,直到最近,在线社区还在依靠人类审核人员来保持讨论。例如,亚马逊的Twitch使用了一款名为AutoMod的类似的工具来帮助现场直播人员控制他们的聊天室。
“英雄联盟”的开发商Riot Games还使用人工智能和机器学习来限制网络游戏中的有害内容并打击玩家滥用。Riot的人工智能标注潜在的有害信息,并自动警告用户他们的行为是不合适的,如果他们继续这样,就可能会受到惩罚。
在Game Developers Conference 2015(2015年的游戏开发者大会)上,Riot的前首席设计师Jeffrey Lin表示,人工智能不仅限制了游戏中的有害内容的含量,还通过提醒行为的方式来改变有害的玩家。根据Lin先生的说法,如果告知他们被禁止的确切原因,他们有50%的可能会改变自己的行为,他说如果给这些玩家这些行为的证据,他们改变自己行为的概率就会上升到70%。
《纽约时报》使用的Moderator不会在向用户提醒他们的行为方面发挥任何作用,而是使人类审核人员能够更容易发现有害的评论内容。《纽约时报》的人类审核人员就这些意见做出最终裁定,最有可能的处理结果是删除这些评论,并可能禁用用户账户。
好文章,需要你的鼓励
当前企业面临引入AI的机遇与挑战。管理层需要了解机器学习算法基础,包括线性回归、神经网络等核心技术。专家建议从小规模试点开始,优先选择高影响用例,投资数据治理,提升员工技能。对于影子IT现象,应将其视为机会而非问题,建立治理流程将有效工具正式化。成功的AI采用需要明确目标、跨部门协作、变革管理和持续学习社区建设。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
美国垃圾收集行业2024年创收690亿美元,近18万辆垃圾车每周运营六至七天,每日停靠超千次。设备故障成为行业最大隐性成本,每辆车年均故障费用超5000美元。AI技术通过实时监控传感器数据,能提前数周预测故障,优化零部件库存管理,减少重复维修。车队报告显示,预测性维护每辆车年节省高达2500美元,显著提升运营效率和服务可靠性。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。