OpenAI暂缓前沿强化训练:安全阈值上调后,最大规模实验仍未重启 焦点快报
OpenAI于8月18日发布题为《在具备关键网络能力的时代调节模型开发节奏》的说明,并同步由首席执行官Sam Altman在社交平台确认:公司已暂停部分前沿强化学习和(RL)训练,以使对齐、安全与监测标准匹配当前能力水平。Altman写道,模型进展已极为迅速,公司此前承诺,一旦能力超越安全与对齐节奏,将采取行动。官方文本将此次放缓归因于两起近期事态:一是OpenAI模型评估过程中发生的Hugging Face安全事件;二是8月7日内部评估显示,未发布模型Astra可能达到准备框架(Preparedness Framework)所定义的“关键网络安全能力”门槛。安全负责人Mia Glaese接受采访时表示,距离全面恢复正常运行仍相当遥远。
暂停范围与已恢复部分
(相关资料图)
据公司披露,面向部署的最新模型强化学习和曾暂停约两周,期间对研究环境进行加固与红队测试,并扩大监测覆盖。规模最大的前沿强化学习实验仍处于搁置状态,现阶段仅开展较小规模训练与评估,以检验模型行为、核验防护并积累对齐证据。与Astra相关的相当一部分工作负载,须迁移至更高安全标准后方可继续;部分已满足新要求的训练与评估则获准进行。
事件发生后,公司立即限制研究集群中可执行代码或调用联网工具的前沿模型推理。部分代码执行路径已在更严格隔离条件下较快恢复,若干研究任务经逐项评估后重启,但网络隔离、沙箱强化与持续安全测试成为新的前置条件。监测对象覆盖Sol能力及以上模型的带工具强化学习与评估;自8月7日起,Astra凡涉及工具的推理亦须纳入监测。
三项防护及其计算成本
官方将补救措施归纳为监测、对齐与安全三类。监测采用多阶段结构:在采样词元上运行激活分类器,再对工具行为、推理轨迹与活动日志进行高算力核查;若判定可能突破关键安全边界,则向安全、安保与研究团队发出最高优先级告警。现行安排要求相关团队在三十分钟内排除误报,否则暂停该项活动。监测开销约为被监测推理算力的20%,因训练与评估任务而异。
对齐方面,公司将核心技术前移至训练更早阶段,而非集中于临近部署时点,包括改进奖励模型以识别并抑制不安全行为、训练模型如实陈述自身行动与能力边界,以及减少奖励黑客行为。安全方面则提高工作负载隔离、加强对不可信代码的沙箱约束、收紧网络隔离,并实施持续测试,包括降低权限、厘清信任边界、完善日志与自动化攻防演练。Astra及网络相关工作负载适用最严格档。公司同时表示,准备框架本身将改写,因其主要条款可追溯至2023年,而模型已接近或触及当时设定的临界值。
对产品节奏与行业竞争的含义
此项安排并不等于全面停训。较小规模与较低风险任务已经恢复,ChatGPT现有产品线亦未宣布中断。真正被推迟的是下一代前沿能力的主实验,而Astra被描述为在智能体编程与网络安全方面较GPT-5.6 Sol有显著进展。对微软等投资方与云合作伙伴而言,这意味着下一代模型的对外时间表存在新的不确定性;对谷歌、Anthropic等竞争对手而言,则构成窗口:若其安全评估未触发同等门槛,产品发布节奏可能暂时领先。
计算资源的再配置同样具有财务含义。Altman向《时代》周刊表示,相当一部分算力与研究人员已转向对齐研究与监测系统。若20%的监测开销在前沿训练中常态化,同等资本开支所能完成的有效训练步数将下降,单位能力进步的成本上升。公司预期未来大部分安全工作将由模型承担,包括防御其他模型,从而使三项防护随能力同步扩展。这一设想若成立,可缓解人力瓶颈;在实现之前,则构成对训练吞吐量的硬约束。
尚待外部验证的问题
公开材料仍缺少Hugging Face事件的完整技术复盘,以及Astra达到“关键”门槛的评估细节。准备框架将关键网络能力界定为模型可在无人工协助下发现并利用加固系统中的零日漏洞,但外部无法核验内部评分。因此,市场需要区分两类解读:其一为审慎的工程调整;其二为能力已跨越公司原有治理框架,迫使研发节奏服从安全流程。Glaese的表态更接近后者。
对投资者与企业客户,可观察的指标并非声明本身,而是最大规模强化学习实验何时重启、Astra相关负载迁入新环境的比例,以及下一版准备框架是否将临界值与对外发布时间绑定。在上述节点出现之前,OpenAI的前沿进度应视为受安全流程约束的变量,而非按原计划线性外推。
标签:
-
2022-05-23 16:13:32
上海奉贤等区开展常态化防疫压力测试 有序开放公交、公园、公共服务场所、公共街区商区<
本报上海5月21日电 (记者刘士安、曹玲娟)上海正在奉贤等区开展常态化防疫压力测试。在21日召开的上海市疫情防控工作新闻发布会上,奉
-
2022-05-23 16:13:32
“抗疫 宅家云课堂”,吸引沪上老同志观看50万人次<
由上海市委老干部局主办,上海市老干部大学、市科技助老服务中心承办的“抗疫 宅家云课堂”系列直播讲座自4月12日启动以来,深受老同
-
2022-05-23 16:13:32
“代跑腿”买药、开通绿色通道 丰台为管控区居民提供便捷医疗服务<
“真是太感谢了,解决了我的燃眉之急!”家住假日万恒社区的杨女士对前来送药的居委会工作人员说。 自5月17日6时起,丰台区对青塔街...
-
2022-05-23 16:13:32
上海嘉定:儿童计划免疫接种全部恢复,实行预约制<
在5月22日召开的上海市新冠肺炎疫情防控新闻发布会上,嘉定区副区长王浩介绍,从4月28日开始,嘉定在防范区逐步有序恢复老年人疫苗接种
-
2022-05-23 16:13:32
乡村振兴看新疆 | 种下红樱桃 结出“致富果”<
央广网阿图什5月22日消息(记者 罗成 通讯员 杨林)乡村振兴靠产业,产业发展靠特色。新疆阿图什市阿扎克镇麦依村积极引导农民因地制
-
2026-08-19 16:23:46
OpenAI暂缓前沿强化训练:安全阈值上调后,最大规模实验仍未重启 焦点快报
OpenAI暂缓前沿强化训练:安全阈值上调后,最大规模实验仍未重启
-
2026-08-19 15:53:21
生意社:8月19日江苏屿鑫金属不锈钢报价下跌
8月19日,江苏屿鑫金属科技有限公司,304,1 0四八尺平板价格宏旺报126
-
2026-08-19 14:51:20
【环球财经】英国7月份CPI逆势上行至2.9%
数据显示,7月份,英国的CPI从上个月的2 6%上行至2 9%。这一趋势逆转符
-
2026-08-19 14:44:54
每日头条!大行评级丨美银:升国泰海通目标价至21.8港元,重申“买入”评级
美银证券发表研报指,国泰海通第二季纯利139亿元,同比升29%,按可比口
-
2026-08-19 12:44:55
绿发电力:公司将与合资方按股权比例履行出资义务及获取投资收益_当前聚焦
证券之星消息,绿发电力(000537)08月19日在投资者关系平台上答复投资者
-
2026-08-19 12:57:00
消息!深圳市速淘车汽车科技有限公司成立 注册资本1万人民币
天眼查App显示,近日,深圳市速淘车汽车科技有限公司成立,法定代表人
-
2026-08-19 10:45:46
每日速读!生意社:8月19日上海华谊新材料华东丙烯酸乙酯价格上涨
8月19日,上海华谊新材料丙烯酸乙酯华东送到价格10550元 吨,较上一个
-
2026-08-19 10:48:18
福耀玻璃(03606.HK)绩后涨超5%,截至发稿,涨4.32%,报59.2港元,成交额1.56亿港元
福耀玻璃(03606 HK)绩后涨超5%,截至发稿,涨4 32%,报59 2港元,成交
-
2026-08-19 09:49:05
8月19日次新股板块跌幅达3%
8月19日10点1分,次新股板块指数报22948 88点,跌幅达3%,成交243 53亿
-
2026-08-19 09:21:03
阿娇哽咽自曝婚后遭长期羞辱,想生个孩子都被一次次推掉,她说这辈子不会再婚了-独家焦点
阿娇哽咽自曝婚后遭长期羞辱,想生个孩子都被一次次推掉,她说这辈子不
-
2026-08-19 08:39:43
最新资讯:泰兴市皓宇工程管理经营部(个体工商户)成立 注册资本1万人民币
天眼查App显示,近日,泰兴市皓宇工程管理经营部(个体工商户)成立,
-
2026-08-19 08:36:37
热讯:信维通信:融资净偿还3291.81万元,融资余额49.44亿元
交易所最新数据显示,信维通信于2026年8月18日获融资买入3 11亿元,融
-
2026-08-19 06:59:01
每日速看!8月18日科创50ETF景顺基金份额增加7200万份,重仓股寒武纪、澜起科技、中微公司
证券之星消息,8月18日,科创50ETF景顺基金(588950)最新份额为6 03亿
-
2026-08-19 06:42:27
每日热点:【ETF观察】8月18日股票指数ETF净流出91.21亿元
,证券之星ETF
-
2026-08-18 21:23:29
每日快报!晚旗报:芒特有望赶上开幕战,谢什科预计要等到第二轮
晚旗报:芒特有望赶上开幕战,谢什科预计要等到第二轮,曼联,英超,芒特,
-
2026-08-18 21:07:31
赫斯基:不理解蓝狐未签回瓦尔迪,会毫不犹豫签回_今日热闻
赫斯基:不理解蓝狐未签回瓦尔迪,会毫不犹豫签回,英超,蓝狐,英格兰,莱
-
2026-08-18 19:56:05
热议:金禄电子: 股票交易异常波动公告
金禄电子:股票交易异常波动公告
-
2026-08-18 19:46:18
当前热议!爱丽家居(603221.SH):如公司股票价格进一步异常上涨,公司将申请停牌核查
,格隆汇
-
2026-08-18 18:50:36
打卡新选择!我国将构建约6万公里精品自驾旅游公路-信息
【打卡新选择!我国将构建约6万公里精品自驾旅游公路】记者从交通运输
-
2026-08-18 18:11:56
百事通!魔笛:去年12月本就可以续约,但想先听听身体的声音
魔笛:去年12月本就可以续约,但想先听听身体的声音,魔笛,ac米兰,莫德
-
2026-08-18 17:09:26
时讯:视频里的动作,机器是怎么"看懂"的
视频里的动作,机器是怎么"看懂"的,动作,光流
-
2026-08-18 17:06:18
焦点热议:商务部:每天有超1亿件包裹进出农村
商务部:每天有超1亿件包裹进出农村
-
2026-08-18 16:13:21
快看点丨东京股市显著下跌
受隔夜纽约股市三大股指全面下跌影响,东京股市两大股指当日低开。受中
-
2026-08-18 16:00:53
生意社:8月18日鲁西集团PA6报价上涨
近日鲁西集团股份有限公司PA6常规纺有光切片报价12800元 吨(现汇出厂
-
2026-08-18 15:00:30
观察:重庆金融监管局核准周伟长安汽车金融有限公司副总经理任职资格
2026年08月12日,重庆金融监管局核准周伟长安汽车金融有限公司副总经理
-
2026-08-18 15:05:10
每日视讯:ETF跟踪误差,毫厘之争却值得较真
买ETF的第一步,当然是选赛道、看方向。但当你已经确定了要投的指数,
-
2026-08-18 12:49:17
361度(01361)中期股东溢利同比增长7.96% 拟派中期股息22.2港仙 快看
金吾财讯|361度(01361)公布截至2026年6月30日止六个月业绩,股东应占
-
2026-08-18 12:56:03
成都绿枢朔复再生资源有限公司成立 注册资本2万人民币
天眼查App显示,近日,成都绿枢朔复再生资源有限公司成立,法定代表人
-
2026-08-18 11:07:35
每日资讯:小派为Dream Air SE头显推出ProFit面罩,带来更大可视视场
小派为DreamAirSE头显推出ProFit面罩,带来更大可视视场,面罩,可视,麦
-
2026-08-18 11:16:27
埃及在建规模最大陆上风电项目铁塔组立收官
埃及在建规模最大陆上风电项目铁塔组立收官,近日,中国电建湖北工程公