A LLM client for use from the command line or IDE.
Project description
liulianmao
liulianmao是@LaoshuBaby自用的一个在命令行或者IDE中使用的大语言模型客户端。本项目主要为鼠宝宝及友人提供服务,亦用作个人codebase在各种机器人和实验性项目中快速调用。
目前仅测试了OpenAI提供的服务。理论上亦可直接用于零一万物或通义千问的服务。
若需要快速切换不同模型,可使用通过one-api或new-api聚合后的token。
您可脱离IDE在纯命令行中无头调用,亦可在IDE中同时并列若干窗口,运行客户端交互式对话。
Use in VSCode | Use in PyCharm |
---|---|
如果您是希望寻找图形化的客户端,可以去隔壁的ChatBox、ChatHub或LibreChat看看。
仅提供简体中文文档。若有疑问您可以联系我。
配置方法
安装所需要的库:
pip install requests loguru
若需使用langchain,还需安装:
pip install langchain langchain_openai
在系统环境变量中配置OPENAI_API_KEY
的值为你所使用的API,OPENAI_BASE_URL
的值为你使用的服务商的endpoint。 (如果您配置过langchain,那就不需要再次配置了!)
如果您不懂什么是环境变量,也可以在同目录下放置同名文件,亦可在代码中硬编码,但鼠宝宝不推荐这么做。
参考文档
虽然我觉得正常用户用不到这东西,给自己看方便debug的
- https://platform.openai.com/docs/api-reference/audio/createSpeech
- https://platform.openai.com/docs/guides/text-to-speech
TODO
目前有如下亟待解决的主要问题
- 打包为各平台(Windows/MacOS,Linux用户请自求多福)上可独立执行的单文件程序,“一键运行”。
- 允许将会话内容直接投射到txt中,并读取其更改自动作为回复。
- 提供一个网页或GUI,直接映射两个文件的状态(可能没有必要,我们不是要重新发明一个图形化的客户端,已经有很多了)。
联系我
- Telegram: @laoshubaby
- Email: laoshubaby@protonmail.com
( 虽然是MIT协议,您可以自由使用,但如果您是在GitHub上搜到的这个项目,建议使用前先与我咨询,因为可能真的不好用。若能帮到您,就算交个朋友啦!φ(゜▽゜)♪* )
关于命名
Q: 如果是硬凑LLM首字母缩写,为什么不用“溜溜梅”?
A:我怕来告我。
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Hashes for liulianmao-1.0.0-py3-none-any.whl
Algorithm | Hash digest | |
---|---|---|
SHA256 | e7bc7dd563335c41d0d593d596e8dfe7cf6eebd964f7a16a22a22b37dd731780 |
|
MD5 | 43ca81614174d6480dfbb9959158f186 |
|
BLAKE2b-256 | ca57abb672bfd92313f058a87352349a681b3fba561ec9fa855ca222496a3b34 |