Skip to main content

PageEyes Agent 是一个轻量级 UI Agent,通过自然语言指令驱动,无需编写脚本既可实现Web、Android平台的UI自动化任务。

Project description

PageEyes Agent

License Version


Documentation: PageEyes Agent


PageEyes Agent 是基于 Pydantic AI 框架开发的一个轻量级 UI Agent, 其中元素信息感知能力依靠 OmniParserV2 模型,整个 Agent 的优势在于不依赖视觉语言大模型, 即使小参数的 LLM 也能胜任路径规划能力,同时支持多平台(Web、Android),目前主要包含以下功能:

  1. 完全由自然语言指令驱动,无需编写脚本,既可实现自动化测试,UI巡检等任务
  2. 跨平台、跨端支持,在 Python 环境中安装 page-eyes 库和配置 OmniParser 服务后即可开始 Web、Android 平台的自动化任务,未来还将继续支持iOS平台
  3. 支持多种大模型接入,包括DeepSeek、OpenAI、千问等,默认使用 DeepSeek V3 模型,后续会支持更多大模型接入
  4. 可通过自然语言进行断言,并生成详细的执行日志和报告,方便测试人员查看执行过程和结果

安装

您可以通过 pip 安装

pip install page-eyes
from page_eyes.agent import WebAgent, MobileAgent
...

或者克隆项目源码安装

git clone https://github.com/tencentmusic/page-eyes-agent.git
cd page-eyes-agent
uv sync  # 安装依赖

快速开始

配置环境变量

环境变量 默认值 说明
AGENT_MODEL openai:deepseek-v3 使用的AI模型,当前设置为deepseek-v3
AGENT_DEBUG False 是否启用调试模式
AGENT_HEADLESS False 是否使用无头模式
AGENT_LOG_GRAPH_NODE False 是否记录图节点日志
OPENAI_BASE_URL https://api.deepseek.com/v1 DeepSeek API的服务端点
OPENAI_API_KEY a22a37d7-xxx 调用DeepSeek API所需的认证密钥

使用腾讯云COS服务(与MinIO二选一)

环境变量 默认值 说明
COS_SECRET_ID - 腾讯云COS服务的Secret ID
COS_SECRET_KEY - 腾讯云COS服务的Secret Key
COS_ENDPOINT - 腾讯云COS服务的 endpoint
COS_BUCKET - 腾讯云COS服务的 bucket

使用MinIO服务(与腾讯云COS二选一)

环境变量 默认值 说明
MINIO_ENDPOINT - MinIO 端点 host:port
MINIO_ACCESS_KEY - 您在后台创建的 Access Key
MINIO_SECRET_KEY - 创建 Access Key 时会生成 SECRET_KEY
MINIO_BUCKET - 您在后台创建的 Bucket

详细部署参考

使用示例

import asyncio

from page_eyes.agent import WebAgent, MobileAgent


async def main():
    # Web 端
    ui_agent = await WebAgent.create(simulate_device='iPhone 15 Pro')

    # 移动端
    # ui_agent = await MobileAgent.create(serial='android-udid')

    report = await ui_agent.run("""
            - 打开 url "https://yobang.tencentmusic.com/chart/uni-chart/rankList/"
            - 点击"查找icon"
            - 在搜索输入框中输入"小美满"
            - 点击"小美满> "
            - 点击"日榜"
            """)


if __name__ == "__main__":
    asyncio.run(main())

更多示例请参考示例代码

贡献指南

  1. 检查现有 issues 或提交新 issue 来讨论功能想法或缺陷
  2. 在GitHub上Fork代码仓库,基于主分支创建修改分支(或从其创建新分支)
  3. 编写测试用例:通过测试验证缺陷已修复或新功能符合预期
  4. 添加更新日志:按规范提交更新日志
  5. 完善文档:优化文档(增强细节、提升可读性等)

如有需要,加入我们的交流群

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

page_eyes-1.0.5.tar.gz (249.0 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

page_eyes-1.0.5-py3-none-any.whl (187.2 kB view details)

Uploaded Python 3

File details

Details for the file page_eyes-1.0.5.tar.gz.

File metadata

  • Download URL: page_eyes-1.0.5.tar.gz
  • Upload date:
  • Size: 249.0 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: uv/0.6.9

File hashes

Hashes for page_eyes-1.0.5.tar.gz
Algorithm Hash digest
SHA256 6609296d0038351c38fe4fc2e0df19667f1678720c88e6bd1e4a37b9618f9d63
MD5 c17f681b1bd74dbc12ec30d3fa9340b8
BLAKE2b-256 05531bdfb4fb341324e4a36b91927bf642e0911956a714a6a5a5ec49c5bdbd79

See more details on using hashes here.

File details

Details for the file page_eyes-1.0.5-py3-none-any.whl.

File metadata

  • Download URL: page_eyes-1.0.5-py3-none-any.whl
  • Upload date:
  • Size: 187.2 kB
  • Tags: Python 3
  • Uploaded using Trusted Publishing? No
  • Uploaded via: uv/0.6.9

File hashes

Hashes for page_eyes-1.0.5-py3-none-any.whl
Algorithm Hash digest
SHA256 fd58ca962af72434489373211153c84515f713b2671f404cdfdc8a36e053f895
MD5 2c94f727f4dc86f40a23b9751dd9402d
BLAKE2b-256 db656d1f04aad1c190f62a8e2a53a3665505636f323cc21c6de305a3b185610a

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page