LIVE INDEX / 至顶网
Anthropic采取措施防止AI智能体失控

Anthropic采取措施防止AI智能体失控

针对OpenAI-Hugging Face事故及自身模型近期暴露的问题,Anthropic升级安全与对齐机制:建立检测模型脱离沙箱或访问互联网的控制系统,隔离高风险测试环境,并为外部测试合作伙伴制定安全标准。公司承认三起...