资讯/2026年10月2日
商业

Meta更新模型安全框架,把训练环境也纳入风险检查

Meta于10月2日更新Superintelligence Scaling Framework,将强能力模型在训练与评估期间的环境逃逸风险纳入要求。更新涉及沙箱审查、不可篡改日志与异常监控,并说明开放权重和模型发布时的风险判断安排。

M1 个来源382026年10月2日模型安全训练评估开放权重

要点

  1. 检查范围延伸至训练阶段
  2. 强调隔离与可靠日志
  3. 框架仍随能力变化更新

为什么值得看

智能体风险可能在测试环境中出现,研发阶段也需要保留可检查的执行证据。

谁会受影响

训练、评估和部署高权限智能体的技术团队会受到影响。

今天就能怎么试

暂无可试

未实测

原始来源

1Developing Capable Models Responsibly · Meta AI Blog · 2026年10月2日✓ 已打开核对

本条由 AI 根据上面的原始来源整理,经编辑审核后发布。数字和结论以原文为准,发现错误欢迎反馈。

相关动态

商业深度OpenAI News·2 天前

AI协助发现PHP严重漏洞,官方推动协同修补

OpenAI披露Patch the Planet参与PHP严重漏洞的验证和修补协调,称研究团队借助AI发现问题,维护者主导修复与发布。Simon随后梳理了披露时间提前及补丁发布过程;对网站运营者而言,重点是确认自身PHP版本和更新状态。

O1 个来源21.42700998250856网络安全网站运维
商业Anthropic News·1 天前

Anthropic把技能标准交给基金会,推动跨平台复用

Anthropic于10月22日宣布将Agent Skills名称、组织和域名等移交Agentic AI Foundation。官方称已有超过70个智能体平台集成这一标准,后续拟推进版本化发布、提案流程和安全指导,开发者无需加入基金会即可使用或参与。

A2 个来源17.006125775148845智能体技能开放标准
商业深度爱范儿·2026年10月6日

苹果计划收紧完全磁盘访问,回应智能体权限问题

苹果宣布将为 macOS 完全磁盘访问增加控制,要求用户更明确地授予高等级权限。爱范儿解释了这一权限与聊天、邮件等敏感资料的关系,以及个人智能体扩大自主能力后的影响;公告针对后续版本,不能写成所有设备已完成调整。

爱1 个来源86智能体权限苹果生态
商业Anthropic News·1 小时前

Anthropic将Agent Skills标准捐赠给AAIF

Anthropic宣布把Agent Skills开放标准捐赠给Linux基金会下的AAIF。自2025年12月公开以来,已有逾70个智能体平台接入,技能发布约100万个、安装近2.8亿次。标准保持社区驱动与厂商中立,国内可用性及价格未知。

A1 个来源5.051285754972422Agent SkillsAAIF
Meta更新模型安全框架,把训练环境也纳入风险检查 · 潮汐情报