Meta更新模型安全框架,把训练环境也纳入风险检查
Meta于10月2日更新Superintelligence Scaling Framework,将强能力模型在训练与评估期间的环境逃逸风险纳入要求。更新涉及沙箱审查、不可篡改日志与异常监控,并说明开放权重和模型发布时的风险判断安排。
要点
- 检查范围延伸至训练阶段
- 强调隔离与可靠日志
- 框架仍随能力变化更新
为什么值得看
智能体风险可能在测试环境中出现,研发阶段也需要保留可检查的执行证据。
谁会受影响
训练、评估和部署高权限智能体的技术团队会受到影响。
今天就能怎么试
暂无可试
未实测
原始来源
1Developing Capable Models Responsibly · Meta AI Blog · 2026年10月2日✓ 已打开核对本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。
相关动态
商业深度OpenAI News·2 天前
AI协助发现PHP严重漏洞,官方推动协同修补
OpenAI披露Patch the Planet参与PHP严重漏洞的验证和修补协调,称研究团队借助AI发现问题,维护者主导修复与发布。Simon随后梳理了披露时间提前及补丁发布过程;对网站运营者而言,重点是确认自身PHP版本和更新状态。
O1 个来源21.42700998250856
商业Anthropic News·1 天前
Anthropic把技能标准交给基金会,推动跨平台复用
Anthropic于10月22日宣布将Agent Skills名称、组织和域名等移交Agentic AI Foundation。官方称已有超过70个智能体平台集成这一标准,后续拟推进版本化发布、提案流程和安全指导,开发者无需加入基金会即可使用或参与。
A2 个来源17.006125775148845
商业深度爱范儿·2026年10月6日
苹果计划收紧完全磁盘访问,回应智能体权限问题
苹果宣布将为 macOS 完全磁盘访问增加控制,要求用户更明确地授予高等级权限。爱范儿解释了这一权限与聊天、邮件等敏感资料的关系,以及个人智能体扩大自主能力后的影响;公告针对后续版本,不能写成所有设备已完成调整。
爱1 个来源86
商业Anthropic News·1 小时前
Anthropic将Agent Skills标准捐赠给AAIF
Anthropic宣布把Agent Skills开放标准捐赠给Linux基金会下的AAIF。自2025年12月公开以来,已有逾70个智能体平台接入,技能发布约100万个、安装近2.8亿次。标准保持社区驱动与厂商中立,国内可用性及价格未知。
A1 个来源5.051285754972422