请问AI功能支持本地自建的大模型使用吗

1

比如我不是用在线大模型，改用本地用ollama、llama.server等自建的模型是否可以呢？
SEAFILE_AI_LLM_URL=http://192.168.100.2:3000/v1
SEAFILE_AI_LLM_KEY=sk-xxxxxxxxxxxx
SEAFILE_AI_LLM_MODEL=qwen3.8:27b

我试了一下，能和本地大模型交互，但是很快就页面提示失败，实际上大模型还在工作，似乎是网页端等待时间不够就认为失败了，不知道能否修改解决呢

2

您好，根据目前最新代码，后端所有调用 AI server 的接口都有超时（非聊天功能 30 秒，聊天流 180 秒），下面是详细的配置文件位置，如果您有能力可以自行修改github仓库的硬编码配置并自行编译镜像部署，目前我们没有修改这一块的计划，建议您更换更小参数或者量化的本地大模型使用。

后端超时配置（seahub/ai/utils.py）

存在超时配置，但都是硬编码常量，没有做成可配置项：

位置 超时值 用途
seahub/ai/utils.py:35 AI_REPLY_TIMEOUT = 180 常量定义（180 秒）
seahub/ai/utils.py:537 timeout=AI_REPLY_TIMEOUT（180s） AI 聊天流式回复 get_ai_reply，stream=True
seahub/ai/utils.py:74/81/88/95/102/109/116 timeout=30 各 AI 功能调用：image_caption、generate_summary、generate_file_tags、ocr、translate、writing_assistant、search_icons
seahub/ai/apis.py:826 AI_REPLY_TIMEOUT（180s） 聊天任务信息的 cache 过期时间
4

了解，谢谢。

有时候团队内部文档使用时，可能会用内部的自建模型，建议后续版本可以考虑将部分AI参数搞成配置项，方便使用。

5

好的，感谢您的建议

6

目前可以最简单的修改方式就是直接修改容器中的代码：
seafile_ai容器中/opt/seafile_ai/config.py
seafile_ai容器中/opt/seafile_ai/seafile_ai_app.py
seafile_ai容器中/opt/seafile_ai/llm_api.py
seafile_ai容器中/opt/seafile_ai/_init_.py
seafile容器中的/opt/seafile/seafile-server-13.0.25/seahub/seahub/ai/utils.py
我试着修改后就能用了 :grinning_face:

7

是的，但是这是非持久化的修改，您如果down容器再up可能会丢失，或者您可以尝试挂载这些配置文件到本地，这样后续操作也会保留配置