Skip to content

Releases: shell-nlp/gpt_server

gpt_server v0.2.2

Choose a tag to compare

@shell-nlp shell-nlp released this 24 Jun 08:34

gpt_server v0.2.2

更新

  1. 全球唯一支持Tools(Function Calling)功能的开源框架。兼容LangChain的 bind_tools、AgentExecutor、with_structured_output写法(目前支持Qwen系列、GLM系列)#4
  2. 修复了Embeding加载设备错误的问题 #8
  3. 支持了Qwen2和GLM4模型
  4. 修复了completion的问题

v0.2.1

Choose a tag to compare

@shell-nlp shell-nlp released this 23 May 05:47

gpt_server v0.2.1

1.支持了Lmdeploy后端

2.修复了对请求数量的限制

3.修复了logs目录错误问题