OpenAIは2026年8月7日(現地時間)、開発中の次世代モデル「Astra」に関する一部の社内活動を一時停止したと発表しました。直近の内部評価で、同モデルのサイバー攻撃に関する能力が、同社の安全指針「Preparedness Framework」で最上位に位置づけられる「Critical」級に達している可能性を否定できないと判断したためです。同社がモデルをCritical級のサイバー能力を持つ可能性があるものとして扱うのは今回が初めてで、安全対策が整うまで開発を減速させるという異例の対応を取ります。
運営者情報
AI JOURNALは一般社団法人 日本AI導入支援協会が運営する、日本企業のAI活用支援を目的としたメディアです。記事制作にあたっては、経済産業省「AI事業者ガイドライン」をはじめとする公的機関の公表情報等を参考にしています。内容の正確性には十分配慮していますが、誤りや更新漏れがある場合は、お問い合わせフォームよりご連絡ください。掲載情報は公開日時点のものであるため、最新情報は公式サイト等でご確認ください。
AstraのCritical級判定とPreparedness Frameworkの位置づけ
Preparedness Frameworkは、OpenAIが2023年に初公表した安全指針です。モデルが持つ危険な能力を段階的に評価し、しきい値を超えた場合には十分な安全策が整うまで開発や公開を制限すると定めています。
サイバー分野のCritical級は、人の介在なしに、堅牢に保護された実運用システムに対してゼロデイ脆弱性(まだ知られていない欠陥)を突く実用的な攻撃コードを発見・開発できる、あるいは大まかな目標を与えるだけで高度なサイバー攻撃を立案・実行できる水準を指します。国家レベルの攻撃者に匹敵する能力と位置づけられる区分です。
OpenAIの公式ブログによると、直近数日の内部評価で、Astraのエージェント的なコーディング能力とサイバーセキュリティ能力が大幅に向上していることが確認されました。外部専門家の評価も踏まえた上で、Critical級到達の可能性を否定できないと結論づけています。既存モデルのGPT-5.6 Solなどは、一段下の「High」級と評価されていました。
| レベル | 想定される能力 | 該当モデル |
|---|---|---|
| High | 高度な支援があればサイバー攻撃に悪用されうる | GPT-5.6 Solなど |
| Critical | 人の介在なしにゼロデイ発見や攻撃の立案・実行が可能 | Astra(可能性を否定できず) |
OpenAIが導入する追加のセキュリティ対策
OpenAIは今回の判断に伴い、新しい保護要件を満たさないAstra関連の社内活動を一時停止しました。あわせて、隔離されたテスト環境の導入、ネットワークや外部ツールへのアクセス制限、モデル本体のデータ(ウェイト)の保護と暗号化の強化、監視・検知体制の拡充、サンドボックス化された実行環境の整備といった管理策を講じています。
また、政府機関および一部のAI安全組織と連携し、リリース前のテストとセキュリティ検証を拡大する方針です。安全策が要件を満たすまで、Astraの開発ペースを意図的に落とすとしています。
相次ぐAI悪用事案が発表の背景に
今回の発表の直前には、AIモデルが関与したとされるHugging Faceのシステムへの不正アクセス事案が報じられていました。OpenAIはAstraがこの事案とは無関係であると説明していますが、AIモデルのサイバー能力への警戒が業界全体で高まる中での発表となりました。
フロンティアモデルの開発競争が続く中、能力の向上を理由に開発元みずからが開発を減速させる判断は過去に例が少なく、AIの安全評価のあり方をめぐる議論に大きな影響を与えるとみられます。競合を含む各社が同様のしきい値管理をどう運用するかも、今後の焦点になります。
参考
- Responding to the next frontier: critical cyber capabilities(OpenAI公式ブログ)
- OpenAI says it slowed Astra model development over security concerns(TechCrunch)
- OpenAI、次期モデル「Astra」の開発を一時停止 「Critical」級のサイバー能力の可能性(ITmedia)
- OpenAI flags Astra model for critical cybersecurity capabilities(Interesting Engineering)
コメント