A LLM client for use from the command line or IDE.
Project description
liulianmao
liulianmao是@LaoshuBaby自用的一个在命令行或者IDE中使用的大语言模型客户端。本项目主要为鼠宝宝及友人提供服务,亦用作个人codebase在各种机器人和实验性项目中快速调用。
目前仅测试了OpenAI提供的服务。理论上亦可直接用于零一万物或通义千问的服务。
若需要快速切换不同模型,可使用通过one-api或new-api聚合后的token。
您可脱离IDE在纯命令行中无头调用,亦可在IDE中同时并列若干窗口,运行客户端交互式对话。
Use in VSCode | Use in PyCharm |
---|---|
如果您是希望寻找图形化的客户端,可以去隔壁的ChatBox、ChatHub或LibreChat看看。
仅提供简体中文文档。若有疑问您可以联系我。
配置方法
安装所需要的库:
pip install requests loguru
若需使用langchain,还需安装:
pip install langchain langchain_openai
在系统环境变量中配置OPENAI_API_KEY
的值为你所使用的API,OPENAI_BASE_URL
的值为你使用的服务商的endpoint。 (如果您配置过langchain,那就不需要再次配置了!)
如果您不懂什么是环境变量,也可以在同目录下放置同名文件,亦可在代码中硬编码,但鼠宝宝不推荐这么做。
参考文档
虽然我觉得正常用户用不到这东西,给自己看方便debug的
- https://platform.openai.com/docs/api-reference/audio/createSpeech
- https://platform.openai.com/docs/guides/text-to-speech
TODO
目前有如下亟待解决的主要问题
- 打包为各平台(Windows/MacOS,Linux用户请自求多福)上可独立执行的单文件程序,“一键运行”。
- 允许将会话内容直接投射到txt中,并读取其更改自动作为回复。
- 提供一个网页或GUI,直接映射两个文件的状态(可能没有必要,我们不是要重新发明一个图形化的客户端,已经有很多了)。
联系我
- Telegram: @laoshubaby
- Email: laoshubaby@protonmail.com
( 虽然是MIT协议,您可以自由使用,但如果您是在GitHub上搜到的这个项目,建议使用前先与我咨询,因为可能真的不好用。若能帮到您,就算交个朋友啦!φ(゜▽゜)♪* )
关于命名
Q: 如果是硬凑LLM首字母缩写,为什么不用“溜溜梅”?
A: 我怕来告我。
Q: 如果我觉得鼠宝宝是在重新发明轮子,其实有很多这种简易客户端了,怎么办?
A: 好问题,我也觉得。
Q: 有没有类似榴莲猫的项目?
A: 如果您有小米智能音响,可以试试yihong0618/xiaogpt,给小爱同学装上最强大脑。
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Hashes for liulianmao-1.1.0-py3-none-any.whl
Algorithm | Hash digest | |
---|---|---|
SHA256 | 0cedaf21affbc7d5780b97a3161d6e0864df7b3ad21836e17c5802be7daf426d |
|
MD5 | 07c1ca5608554039c920d6ca2a47dcef |
|
BLAKE2b-256 | c8a66af9c2fe826e5f1e38a64a89e45841e2ffe8ade49232b699e59ecb510b10 |