Skip to main content

开始使用

环境配置完成后,启动步骤为先启动chatchat-server,然后启动chatchat-frontend。 chatchat可通过pypi安装一键启动,您也可以选择使用源码启动。(Tips: 源码配置可以帮助我们更快的寻找bug,或者改进基础设施。我们不建议新手使用这个方式)

pypi安装一键启动

  • 安装chatchat
pip install langchain-chatchat -U

注意:chatchat请放在独立的虚拟环境中,比如conda,venv,virtualenv等

已知问题,不能跟xf一起安装,会让一些插件出bug,例如文件无法上传

工作空间配置

操作指令 chatchat-config

 
Usage: chatchat-config [OPTIONS] COMMAND [ARGS]...

  指令` chatchat-config` 工作空间配置

Options:
  --help  Show this message and exit.

Commands:
  basic   基础配置
  kb      知识库配置
  model   模型配置
  server  服务配置

模型服务配置

如果您已经有了一个openai endpoint的能力的地址,可以在configs._model_config.py文件中MODEL_PLATFORMS直接配置

  • platform_name 可以任意填写,不要重复即可
  • platform_type 以后可能根据平台类型做一些功能区分,与platform_name一致即可
  • 将框架部署的模型填写到对应列表即可。不同框架可以加载同名模型,项目会自动做负载均衡。

自定义平台加载

可以通过 model_providers 提供转换不同平台的接口为openai endpoint的能力

配置CHATCHAT_ROOT文件夹configs中的model_providers.yaml文件,即可完成自定义平台加载

 
vim model_providers.yaml

注意: 在您配置平台之前,请确认平台依赖完整,例如智谱平台,您需要安装智谱sdk pip install zhipuai

详细配置请参考README.md

初始化知识库

chatchat-kb -r

启动服务

chatchat -a

模型?

chatchat 0.3版本中,为保证平台、模型、及本地服务的兼容,在保证可扩展性的同时,
我们对模型的加载进行了重新设计. chatchat 0.3之后的版本,我们将分离模型加载和服务启动. 您可以使用提供了`openaiEndpoint`任何服务,
可以在`configs._model_config.py`文件中MODEL_PLATFORMS直接配置
 

部署手册

移步这里 xinference环境配置手册

Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

langchain_chatchat-0.3.0.20240621.tar.gz (23.0 MB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

langchain_chatchat-0.3.0.20240621-py3-none-any.whl (23.2 MB view details)

Uploaded Python 3

File details

Details for the file langchain_chatchat-0.3.0.20240621.tar.gz.

File metadata

  • Download URL: langchain_chatchat-0.3.0.20240621.tar.gz
  • Upload date:
  • Size: 23.0 MB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: poetry/1.8.3 CPython/3.12.3 Linux/6.9.3-arch1-1

File hashes

Hashes for langchain_chatchat-0.3.0.20240621.tar.gz
Algorithm Hash digest
SHA256 ed54160f7458825b8f239be4351b2c291487939bff2e2f04a2e1d4ab767ac2d8
MD5 8942b4d2e74bbe61c98606bc6a478dc8
BLAKE2b-256 7d6734b42f3e43f81d079454f8b802df81ee865063d57f26703c4011565a3ce0

See more details on using hashes here.

File details

Details for the file langchain_chatchat-0.3.0.20240621-py3-none-any.whl.

File metadata

File hashes

Hashes for langchain_chatchat-0.3.0.20240621-py3-none-any.whl
Algorithm Hash digest
SHA256 97d6be5e92a4abcb5d962983d683ccb67036baababb418efbeef7ff5417e4739
MD5 42d9eded2550f9bac8a23af473ba50c6
BLAKE2b-256 214712e16ff4ae591134a78445818381d8a15f6d97bdf2c35f10e7526245e40a

See more details on using hashes here.

Release history Release notifications | RSS feed

0.3.1.3

2 files

0.3.1.2

2 files

0.3.1.1

2 files

0.3.1

2 files

0.3.0.20240625

2 files

This release

0.3.0.20240621 This release

2 files

0.3.0.20240619

2 files

0.3.0.20240618

2 files

0.3.0.20240616

2 files

0.3.0.20240612

2 files

0.3.0.20240611

2 files

0.3.0.20240610

2 files

0.3.0

2 files

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Sentry Error logging StatusPage Status page