locaith

Python SDK cho Locaith-4-flash: tìm web, suy luận, ngữ cảnh 64K, Bio-Memory.

pip install locaith
export LOCAITH_API_KEY="LocAI..."

from locaith import Locaith

client = Locaith()

r = client.chat.completions.create(
    messages=[{"role": "user", "content": "Giá vàng SJC hôm nay?"}],
)
print(r.choices[0].message.content)
print([s.url for s in r.sources])

Streaming:

stream = client.chat.completions.create(
    messages=[{"role": "user", "content": "Viết bài 500 chữ về AI tại Việt Nam"}],
    stream=True,
)
for text in stream.text():
    print(text, end="", flush=True)
print(stream.sources)

Bio-Memory:

client = Locaith(user="khach_123")

client.chat.completions.create(
    messages=[{"role": "user", "content": "Tôi là kế toán trưởng công ty ABC."}],
    memory=True,
)
client.chat.completions.create(
    messages=[{"role": "user", "content": "Bạn nhớ tôi làm nghề gì?"}],
    memory=True,
)

client.memory.list()
client.memory.add("Quy ước báo cáo", "Đơn vị triệu đồng.", type="feedback")
client.memory.export("ky-uc.zip")

Async:

import asyncio
from locaith import AsyncLocaith

async def main():
    async with AsyncLocaith() as client:
        r = await client.chat.completions.create(messages="Xin chào")
        print(r.text)

asyncio.run(main())

Lỗi:

import locaith

try:
    client.chat.completions.create(messages="Xin chào")
except locaith.AuthenticationError as e:
    print(e.status_code, e.message)
except locaith.APIConnectionError:
    ...

Tương thích OpenAI: có thể dùng thẳng SDK openai với base_url="https://memory-api.locaith.com/v1".