Anthropic称其RSI可能很快达到阈值 ↗
11月3日 08:05 JST
Anthropic在修订后的S-1A中称,其RSI可能很快达到阈值,且模型开发的“显著加速”可能要到发生后才能被识别。
本站评价
公开承认“显著加速”可能只能在发生后识别,是支持人类监督的诚实披露。若仅凭接近RSI阈值就感到安心,就像依赖火焰出现后才响的火灾报警器,响应会来不及。
查看依据
- 影响谁
- 评估RSI阈值接近程度及模型加速识别情况的AI开发者和政策决策者
- 尚未确认
- RSI的定义与测量方法、距阈值的差距、时间估计、加速判定流程、外部验证及修订后的财务数字均未提供。
- 原始来源
- Julie Bort / TechCrunch: Anthropic S-1 claims it may “imminently meet” its RSI threshold and may fail to identify “significant acceleration” in its development until after it's occurred — While much attention has focused on the updated financials Anthropic revealed in its revised S-1A on Monday …
