Search the alley

記事を検索

2文字以上でタイトル・カテゴリ・タグを検索できます。

GPT-5.6を論文とベンチマークで読む:Codex・AIエージェント・安全性の現在地

GPT-5.6 Sol、max reasoning、ultra modeを、SWE-bench、TerminalWorld、OSWorld、OdysseyBench、PaperBench、Cybench、AgentHarmなどの研究・ベンチマークから読み解き、CodexやAIエージェントに何を任せられるかを整理します。

公開 2026.06.27 / 更新 2026.08.21

この記事のポイント

  • GPT-5.6 Solの期待値は、SWE-benchだけでなくTerminal、OS、長時間workflow、研究再現、安全評価を分けて読む
  • ベンチマークのスコアは作業設計の材料であり、本番反映、秘密情報、権限変更を自動化してよい根拠にはならない
  • Codex利用者は、モデル選びより先に、差分確認、build/check、sitemap/upload、人間レビューの位置を決める

2026年8月21日確認:公式評価と研究ベンチマークを更新

GPT-5.6の正式発表後も、公式scoreはモデル、reasoning effort、agent harness、対象taskで意味が変わります。8月時点の公式ページではSWE-Bench Pro、Artificial Analysis Coding Agent Index、BrowseComp、OSWorld 2.0、Agents’ Last Examなどが示されていますが、1つの数字をCodexの実repo作業の成功率へ置き換えません。

公式評価GPT-5.6公式ページの値Codex利用者が追加で見ること
Agents’ Last ExamSol 52.7% / Terra 50.4% / Luna 50.3%長時間の専門workflow。自分のrepoの仕様・承認・公開判断は別
Artificial Analysis Coding Agent Index v1.1Sol 80 / Terra 77.4 / Luna 74.6外部indexの評価条件、harness、再現可能な比較かを確認
SWE-Bench ProSol 64.6% / Terra 63.4% / Luna 62.7%issue修正の一断面。要件整理、レビュー、生成物、本番反映は別
BrowseCompSol 92.2%検索taskの結果。evidenceの質、引用、調査範囲を人間が確認
OSWorld 2.0Sol 62.6%computer-useの評価。認証、権限、外部送信、画面状態を分ける

公式scoreを自分のrepoへ移す時の3つの分解

  • modelとaliasを固定する。現行Model guidanceではgpt-5.6 aliasがgpt-5.6-solへ向くため、model ID、reasoning effort、pro / maxの条件を記録する。
  • harnessを固定する。persisted reasoning、compaction、multi-agent、Programmatic Tool Calling、prompt cachingの有無で、同じモデル名でもtokens、latency、tool calls、途中状態が変わる。
  • 成功率だけで終わらせない。品質、要件充足、evidence、retry、総tokens、cost、diff、build/check、権限・安全性を代表taskで比較する。

冒頭の結論:GPT-5.6は強さではなく評価軸を分けて読む

GPT-5.6 Sol、max reasoning、ultra modeという言葉を見ると、Codexに大きな作業をそのまま任せたくなります。ただ、AIエージェントの実力は、コード修正、ターミナル操作、GUI操作、研究再現、サイバー安全性で別々に見た方が安全です。

GPT-5.6公式発表で確認できること

公式発表とSystem Cardから読めるのは、GPT-5.6 seriesがSol / Terra / Lunaに分かれ、Solが長いコーディング、agentic workflow、max reasoning、ultra mode、サイバーや長時間タスクの評価文脈で語られていることです。一方で、この記事では公式に出ていないGPT-5.6の個別ベンチマーク数値を作りません。

なぜSWE-benchだけでは足りないのか

SWE-benchは実GitHub issueを使うため、AIコーディング評価の重要な入口です。ただし、実務のCodex作業は、issue修正だけでは終わりません。調査、複数ファイル変更、build/check、生成HTML、sitemap、upload、本番前確認、完了報告レビューまで含めると、TerminalWorld、OSWorld、OdysseyBench、PaperBenchのような別軸も必要になります。

ベンチマーク測っている能力タスク例Codex利用者への示唆読む時の注意点
SWE-bench実GitHub issueの修正repoを読んでテストを通す修正コード修正力の入口になるissue修正以外の要件定義、レビュー、本番反映は薄い
SWE-rebench新鮮なタスク収集と汚染対策fresh interactive tasks古い公開問題だけで比較しない視点評価pipelineやtask selectionを読む
SWE-Lancer実務価値に近いソフトウェア作業フリーランス案件由来の実装判断金額や依頼品質まで含めた実務感を見る単純な解決率と収益性は同じではない
TerminalWorld / Terminal-Benchターミナルでの長い操作CLI、ログ確認、ファイル操作、検証build/check込みのCodex作業に近いコマンド副作用と環境差を見る
OSWorld実コンピュータ環境のGUI/OS操作複数アプリ、画面理解、クリック操作ブラウザやOS操作を含むagent評価の限界が分かるCodex CLIだけの性能とは分ける
OdysseyBench長時間のオフィスワークフローWord、Excel、PDF、メール、カレンダーsubagentsや分担設計の必要性が見える成功率より途中状態管理を見る
PaperBenchAI研究の再現能力論文理解、実装、実験、rubric評価論文実装を丸投げしない理由が分かる再現環境、乱数、評価指標を分ける
Cybenchサイバー課題への推論・実行能力CTF型課題、セキュリティ評価防御レビューの期待値と境界を考える攻撃手順へ寄せない
ExploitGym脆弱性から攻撃成立までの危険な能力脆弱性理解と悪用可能性評価記事では防御・修正・レビューに限定する具体的な再現手順を書かない
AgentHarmエージェントの有害行動リスクツール利用で危険な依頼を遂行するか権限設計と拒否境界の重要性が分かる安全評価として読み、悪用例集にしない

Codex利用者は何を確認すべきか

Codexに任せたい作業近いベンチマーク必要な能力人間が残す確認
1記事+関連リンクの更新SWE-bench / TerminalWorld既存構造理解、複数ファイル編集、build確認検索意図、出典、生成HTML、sitemap
build失敗の原因調査TerminalWorldログ読解、仮説、再実行、差分管理コマンド副作用、不要変更、未確認ログ
ブラウザやOSをまたぐ確認OSWorld画面理解、状態追跡、操作計画最終表示、認証、外部サービス影響
長いクラスター追加OdysseyBench / PaperBench作業分解、途中状態管理、出典整理採用判断、薄い重複の見送り、公開判断
セキュリティ修正案Cybench / AgentHarmリスク整理、パッチ候補、拒否境界秘密情報、本番影響、悪用可能な詳細の排除

ベンチマークを過信しないチェックリスト

  • そのベンチマークは自分の作業に近いか。
  • モデル単体の評価か、agent scaffoldやツール実行込みの評価か。
  • ファイル編集、テスト実行、ログ確認、再試行が含まれているか。
  • タスクが古くなく、データ汚染や公開済み問題の影響を減らしているか。
  • 成功率だけでなく、失敗の種類、途中状態、再試行コストを見ているか。
  • 本番反映、秘密情報、権限変更、課金処理まで任せてよい話にすり替えていないか。
  • 自分のrepoで小さく再現する確認タスクを用意しているか。

サイバー評価は防御の言葉に翻訳する

Cybench、ExploitGym、AgentHarmは、AIエージェントが危険な領域でどこまで進めてしまうかを考える材料です。AI開発横丁では、これを攻撃手順の紹介ではなく、防御的コードレビュー、パッチ作成、権限管理、AGENTS.mdの禁止事項へ翻訳します。

GPT-5.6研究編FAQ

GPT-5.6のベンチマークは何を見ればよいですか?

SWE-benchだけでなく、ターミナル操作、OS/GUI操作、長時間workflow、研究再現、安全評価を分けて見ます。自分の作業に近い評価を優先します。

SWE-benchだけでAIコーディング性能は分かりますか?

入口にはなりますが十分ではありません。実務では要件定義、レビュー、build/check、sitemap、upload、本番前確認が残ります。

TerminalWorldとTerminal-Benchは何が違いますか?

どちらもターミナル作業評価の文脈で読みますが、記事では個別名称より、長いCLI操作、ログ読解、環境差、副作用の扱いを重視します。

ultra modeとsubagentsはどの研究と関係しますか?

OSWorldやOdysseyBenchのように、複数画面・複数アプリ・長時間workflowを扱う評価と相性がよい読み方です。ただしレビュー不要の根拠にはなりません。

CybenchやExploitGymの記事を書いても安全ですか?

安全な抽象度に限定すれば扱えます。攻撃手順や再現コードではなく、防御、レビュー、パッチ、権限設計に寄せます。

関連記事