Meta发布“Meta XR Operator”:让AI代理能“看见”并操作VR应用

🤖 由 文心大模型 生成的文章摘要

Meta向开发者推出一款新工具“M eta XR Operator”,作为Meta XR SDK v205的实验性组件。该工具的核心突破在于,让支持MCP(模型上下文协议)的AI代理能够实时观察并操控在Meta XR Simulator中运行的VR应用程序。

解决VR开发中AI能力的“盲点”。 当前,AI编程辅助已能读写代码并运行测试,但在VR开发中,AI代理因无法“看到”应用界面、也无法模拟点击操作,导致验证环节受阻。Meta XR Operator通过介入应用与OpenXR运行时之间,将XR状态和输入控制权通过MCP开放给外部,使AI代理得以获取屏幕截图、读取墙壁和地板等空间信息、操作控制器、检查Unity场景结构以及执行UI交互。该工具仅在代理请求时传输画面数据,以最大限度降低对帧率的影响,且无需修改应用原有代码。

三大典型应用场景。 Meta设想了该工具的主要用途:迭代开发(逐步添加和测试功能)、Bug修复流程(从复现到验证修正)以及按自然语言步骤执行自动化测试。

实际验证成效显著。 在正式发布前,Beat Games等团队参与了测试。AI代理在无人干预下,完成了从构建到验证的全流程。在《Beat Saber》的菜单画面测试中,该工具甚至发现了以往自动化测试未能察觉的UI元素重叠导致的渲染错误。

当前局限与展望。 目前,该工具不支持手部追踪的指级数据、无法处理音频输入,也不能评估动画运动,因此更适用于静态场景验证。Meta计划在本季度内发布后续文章,深入解析如何读取和操作Unity场景。

「93913原创内容,转载请注明出处」