使用Open WebUI访问Ollama

Ollama安装好了后，可以直接在控制台中输入 ollama 或者 ollama run 模型名 就可以使用在命令行中和本地大模型进行对话了，但是这种方式有一个弊端：交互没有UI界面那么直观方便。当然，可以用ollama的桌面版进行对话。

但是，如果我要在另外一台电脑B上访问安装到电脑A上的ollama服务，就需要额外的方案。

我们可以自己写一个简单的web服务器，用它来和电脑A上的ollama服务进行交互。但是，需要自己写代码，有没有更便捷的方式呢？我找到了一个更方便的方式：使用开源的Open WebUI。

安装

它提供了多种方式，这里使用docker方式：

docker run -d -p 3000:8080 -v open-webui-dev:/app/backend/data --name open-webui-dev ghcr.io/open-webui/open-webui:dev

安装完成后，打开本地的浏览器就可以访问了：

http://localhost:3000

首先，需要自己注册一个管理员，填写邮箱和密码，然后，使用这个账号进行登录。

登录后，需要先设置Ollama接口，在左下角点击用户头像，点击【设置】，在AI类别中选择【外部链接】：

注意：通过这种方式和大模型进行交互，如果模型设置的context过小，会报错：

{
    "error": {
        "code": 400,
        "message": "request (5947 tokens) exceeds the available context size (2048 tokens), try increasing it",
        "type": "exceed_context_size_error",
        "n_prompt_tokens": 5947,
        "n_ctx": 2048
    }
}

解决方法也很简单，在ollama设置中，根据需要，调大一点就可以了，比如：16K。