Search the alley

記事を検索

2文字以上でタイトル・カテゴリ・タグを検索できます。

GPT-5.6 Solは長時間タスクに強いのか?SWE-bench・TerminalWorld・OSWorldで読むAIエージェントの限界

GPT-5.6 Sol、max reasoning、ultra modeを、SWE-bench、SWE-rebench、TerminalWorld、OSWorldから読み、Codexに長時間作業を任せる時の失敗点と確認手順を整理します。

公開 2026.06.27 / 更新 2026.07.10

この記事のポイント

  • max reasoningは難しい原因調査の期待値を上げるが、長時間作業の状態管理を自動で保証しない
  • TerminalWorldやOSWorldは、コマンド・画面・環境差を含む評価の重要性を示す
  • Codexではbuild/check、生成HTML、sitemap、upload、git diffを途中と最後で確認する

2026年7月10日追記:一般提供後も長時間taskは分解と検証が前提

GPT-5.6一般提供ではTerminal-Bench 2.1やOSWorld 2.0などの公式scoreが公開されました。ただし、repo固有の指示、複数repo、build、PR review、本番境界はbenchmark外です。Work / Codex /人間の役割分担と実repoのcheckを優先します。

公式評価SolTerraLuna実務で追加する確認
SWE-Bench Pro64.6%63.4%62.7%対象repoのtest、仕様、diff
Terminal-Bench 2.188.8%87.4%84.7%command副作用、lockfile、生成物
OSWorld 2.062.6%50.2%45.6%画面状態、approval、外部送信

結論:長時間タスクは能力より状態管理で崩れる

GPT-5.6 Solのような強いモデルでも、長時間作業の失敗は単純な知識不足だけでは起きません。どのコマンドを実行したか、何が生成物か、どの確認が済んだか、どの差分を採用するかを見失うと、強い推論でも危なくなります。

SWE-benchはコード修正の入口

SWE-benchは実GitHub issueを使うため、repoを読み、修正し、テストで評価する能力を見やすいベンチマークです。SWE-rebenchは、fresh tasksや汚染対策の問題を前面に出し、公開済みタスクだけで性能を判断する危うさを示します。

TerminalWorldはCLI作業の現実に近い

Codexのサイト更新では、ファイル編集だけでなく、npm run build、static check、sitemap check、url check、upload反映、git diff確認が続きます。TerminalWorldやTerminal-Bench系の評価は、こうした長いCLI操作、ログ読解、環境差を考える入口になります。

OSWorldは画面操作の難しさを示す

OSWorldは、実コンピュータ環境でのopen-ended taskを扱います。これはCodexのファイル編集そのものとは違いますが、ブラウザ確認、管理画面、外部ツール、OS操作を含むワークフローでは、画面状態やクリック先の曖昧さが性能を左右することを教えてくれます。

失敗しやすいポイント起きることCodex作業での対策
途中状態の見失いどのファイルを直したか、どの確認が済んだか曖昧になるチェックリスト、git status、差分確認を挟む
コマンドの副作用生成物やlockfile、キャッシュが広く変わる実行前に目的を限定し、実行後に差分を見る
ファイル変更の取りこぼしsourceだけ直してuploadやsitemapが古いbuild、static HTML、sitemap、upload parityを確認する
成功したと誤報告失敗ログや警告を読まずに完了扱いにするコマンド出力と生成HTMLを直接確認する
GUI/OS操作の曖昧さクリック先、画面状態、認証状態で結果が変わるOS操作は人間確認を残し、外部影響を避ける
失敗ログの読み違い根本原因ではなく近い箇所だけ直す再実行し、同じエラーか新しいエラーかを分ける

Codexに長時間作業を頼む時の実用手順

  • 依頼の最初に、触ってよいファイル、触らないファイル、build/checkコマンドを書く。
  • 外部通信、依存追加、deploy、DB、secret、force pushは禁止または確認制にする。
  • 長い作業でも、最後にgit status、git diff、build/check、生成HTML、sitemap、uploadを確認させる。
  • 完了報告では、成功した確認と未確認事項を分けて読ませる。
  • 本番反映は、通常pushで自動deployが動かないと確認できる場合だけにする。

長時間タスクFAQ

max reasoningを使えば長時間作業は安定しますか?

安定する可能性はありますが、状態管理、差分確認、生成物確認を不要にはしません。作業範囲と確認手順が必要です。

Terminal系ベンチマークはサイト制作にも関係ありますか?

関係あります。サイト制作でもbuild、check、sitemap、upload、git diffなど、ターミナルでの連続作業が多いためです。

OSWorldの結果はCodex利用者にも関係ありますか?

Codexのファイル編集そのものとは別ですが、ブラウザ確認やOS操作を含むagent workflowの限界を読む材料になります。

関連記事