想让本地运行的大语言模型可联网该怎么做?

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

还是搞不清楚所谓的"模型"是什么东西,哪位神仙可以讲清楚.

本地装了 ollama 和 chatbox, 使用 chatbox app 访问本地 ollama 可以使用,但是无法联网. chatbox app 提示说 ollama API 不支持联网,其他的非本地的 API 支持.

ollama,chatbox 是使用模型的工具,llama3:xb deepseekr1:xb 是不同的模型,我理解的对吧?chatbox 对话框有联网设置,怎样让本地模型可以联网呢?

4 条回复 • 2025-02-15 00:23:23 +08:00

fengshils

15 天前

使用谷歌浏览器插件 page Assist

raw0xff

15 天前

@fengshils 感谢, page assist 好像只支持本地模型不支持 API.

ccxuy

15 天前

@raw0xff 刚看了下能支持啊，不过试了下没啥用，只是打通了几个部件，问答效果差，也不能操作网页

shuimugan

8 天前

https://docs.openwebui.com/features/ 这个集成了搜索，源码里集成了好几家搜索引擎，免费的话用的是 duckduckgo 的 https://github.com/open-webui/open-webui/blob/2017856791b666fac5f1c2f80a3bc7916439438b/backend/open_webui/retrieval/web/duckduckgo.py#L12 ，在容器里配个 http_proxy/https_proxy 或者丢海外部署就好了。