Один зафиксированный snapshot модели без внешних инструментов и продуктового workflow.
- pinned_model_snapshot
- frozen_prompt_protocol
- no_external_tools
Raw-модели, chat-продукты, coding agents, agent runtimes и оркестраторы — разные участники. Официальный рейтинг строится только внутри зафиксированного протокола.
Один зафиксированный snapshot модели без внешних инструментов и продуктового workflow.
Зафиксированные модели получают одинаковый браузер, code runner и файловые инструменты.
Полные продукты, coding agents, agent runtimes и оркестраторы сравниваются как системы.
Разные классы участников сравниваются только при одинаковых лимитах денег, времени и оператора.
Официальных баллов пока нет. Наличие в каталоге означает планируемое покрытие, а не участие, квалификацию или официальный балл PRO Bench.
Multiple providers
PLANNEDNOT_EVALUATEDТреки участников:
MODEL_ONLYSTANDARD_TOOLSEQUAL_BUDGET
Политика модели: FIXED_PINNED
Каждая модель провайдера и её точная версия становятся отдельным snapshot участника только после evidence-bound кампании.
Source: UNKNOWN
OpenAI
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: USER_OR_PRODUCT_SELECTED
Оценивается полный продуктовый workflow с зафиксированным режимом выбора модели и встроенными возможностями; такой прогон нельзя переименовывать в raw-model.
OpenAI
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: USER_OR_PRODUCT_SELECTED
Для каждого snapshot фиксируются поверхность Codex, sandbox/worktree policy, конфигурация модели и все разрешённые инструменты.
Anthropic
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: USER_OR_PRODUCT_SELECTED
Фиксируются поверхность исполнения, модель, права в репозитории и test/tool policy; результат нельзя приписывать неуказанной модели Claude.
OpenClaw Foundation
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: CONFIGURABLE_PROVIDER
В один snapshot участника связываются release OpenClaw, host config, provider/model, skills, начальное состояние памяти и выданные права устройства.
Nous Research
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: CONFIGURABLE_PROVIDER
Фиксируются release Hermes Agent, provider/model, инструменты, skills и начальная память; skills, созданные во время прогона, остаются частью evidence этого прогона.
PromanOS
PLANNEDNOT_EVALUATEDТреки участников:
AGENT_SYSTEMEQUAL_BUDGET
Политика модели: SYSTEM_ROUTED
Раскрываются точный build PRO-1, routing policy, выбранные модели, инструменты, retries, fallbacks, фактическая стоимость, wall-clock time и receipts артефактов.
product_or_model_identityexact_version_or_buildaccess_surfaceaccount_plan_and_regionmodel_selection_policyunderlying_model_identity_or_disclosure_stateenabled_tools_connectors_and_permissionsoperator_and_interaction_protocolinitial_memory_and_workspace_stateprompt_retries_fallbacks_and_tool_callsbudget_limits_actual_cost_and_wall_clockoutputs_artifacts_hashes_and_receipts