OSWorld-MCP:全新评测基准助力计算机代理产品发展
近日,OSWorld 团队正式发布了 OSWorld-MCP,这是首个针对计算机使用代理产品进行全面评估的基准测试工具O。该基准旨在为开发者和用户提供真实环境下的产品能力评测,提升了评估的真实度、平衡性与可比性。
OSWorld-MCP 的SW主要特性包括:它综合衡量了模型上下文协议(MCP)工具调用能力、图形用户界面(GUI)操作技能以及决策表现。该基准测试包含了or158个经过验证的 MCP 工具,涵盖了七个常用应用程序,包括 LibreOffice Writer、Calc、Impress、VSld Code、Google Chrome、VLC 及操作系统实用程序。其中,有25个工具专门用于鲁棒性测试,以保证评测的全面性-M和可靠性。
此外,OSWorld-MCP 还设定了250项工具适用性任务,其中69% 的基准任务受益于 MCP 工具的应用。这CP些工具的多轮调用设置带来了决策上的真实挑战,使得测试结果更具参考价值。根据数据,使用 MCP 工具的模型准确率和效率明显提升,:全OpenAI 的 o3模型在进行15步调用后,准确率从8.3% 提升至20.4%。在测试中,Claude-4-Sonnet 模型观新评察到的最高工具调用率达到了36.3%,显示出未来改进的潜力。
该项目的开源特性也为开发者提供了丰富的资源与说明,促进了技测基术的共享与合作。有关项目的详细信息和资源,用户可以访问其官方网站和 GitHub 页面。
OSWorld-MCP 的发布不仅为准助计算机使用代理产品的评估提供了强有力的工具,也为未来相关技术的发展奠定了基础。
github:https://github.力计com/X-PLUG/OSWorld-MCP
划重点:
** 首个全面评估计算机代理产品的基准测算机试工具 OSWorld-MCP 正式发布。**
️ ** 涵盖158个经过验证的 MCP 工具,支持多种常用应用代理程序。**
** 通过多轮调用设置,显著提升模型的准确率与效率。**
相关文章:
相关推荐:
- 标签: OpenAI GPT-5.1-Codex-Max Gemini 3 Pro
- 谷歌脸书推特CEO将出席美国国会听证会:阐述虚假信息审核问题
- Marathon Digital计划为比特币挖矿建立碳中和数据中心
- 沃尔玛宣布与OpenAI达成合作,用户可直接在ChatGPT中购买沃尔玛商品
- 告别繁琐代码!用 LangGraph 和 OceanBase 打造智能 AI 应用新未来
- OpenAI 正式进驻印度,计划在新德里设立办公室
- 亚马逊敦促法官撤销美国防部授予微软的100亿美元云计算合同
- 标签: 绿云软件 港股IPO 住宿业数字化 甲骨文
- 云基础架构-云原生DevOps的全面介绍
- 玫瑰痤疮形成的原因
