pyaiges 0.2.0

AIGES Python Wrapper SDK – build AI engine wrappers for the AIGES loader

pyaiges

AIGES Python Wrapper SDK — 用于构建 AIGES 加载器的 Python AI 引擎插件。

安装

pip install pyaiges

快速开始

from pyaiges import WrapperBase, WrapperData, DataType, DataStatus


class MyWrapper(WrapperBase):
    def init(self, cfg: dict) -> int:
        # 初始化引擎
        return 0

    def fini(self) -> int:
        return 0

    def version(self) -> str:
        return "1.0.0"

    def exec(self, usr_tag, params, data_list, psr_ids):
        # 非流式推理
        results = [
            WrapperData(key="result", data=b"hello", status=DataStatus.ONCE)
        ]
        return (results, 0)

回调方法

在 wrapper 中可以调用框架回调（需要 AIGES 加载器环境）：

# 自定义计量
self.meter_custom(handle, "my_key", count=1)

# Trace 日志
self.trace_log(handle, "latency", "100ms")

# EventLog 标签
self.eventlog(handle, "model", "gpt-4")

# 自定义指标
self.metrics_log(handle, "inference_time", {"model": "v1"}, value=150)

# 异步回调（流式模式）
self.async_callback(usr_tag, data_list=[...], err_code=0)