如何在ubuntu系统下安装Ollama和Open-WebUI本地离线大模型拥有自己的ChatGPT

用虚拟机安装好Ubuntu 22.04系统后，然后开始：

sudo apt update

sudo apt-get update

sudo apt install curl

mkdir ollama

cd ollama

curl -L -o install.sh https://ollama.com/install.sh

bash install.sh

安装完成后，你可以通过运行以下命令来验证Ollama是否正确安装：

ollama --version

出现版本号，安装成功

然后，分别下载安装以下AI模型：

最新Gemma2模型,输入命令：ollama run gemma2:2b

最新Llama 3.2模型,输入命令：ollama run llama3.2:1b

安装open-webui

下载源码：

git clone https://github.com/open-webui/open-webui.git

cd open-webui/

# 复制 .env file

cp -RPp .env.example .env

# 安装编译 Node（版本至少18以上，如果已经存在且版本低要先卸载）

curl -fsSL https://deb.nodesource.com/setup_18.x | sudo -E bash -

sudo apt-get install -y nodejs

sudo apt install npm

更换国内安装源：

npm config set registry https://registry.npmmirror.com

查看是否更换成功：

npm config get registry

执行安装命令：

npm install

npm run build

# 安装依赖环境

cd ./backend

pip install -r requirements.txt -U -i https://pypi.tuna.tsinghua.edu.cn/simple

# 安装huggingface国内镜像，不然需要外网才能启动运行

pip install -U huggingface_hub -i https://pypi.tuna.tsinghua.edu.cn/simple

export HF_ENDPOINT=https://hf-mirror.com

#运行

sudo chmod -R 777 /home/malata/open_webui/backend/

bash start.sh

运行成功

分享一个国内免费使用GPT4.0的AI智能问答工具：智答专家。支持AI文本、作图、语音、Sora视频。无需魔法，亲测有效，点击访问

标签：Ollama,Open-WebUI
来源：智答专家
发布时间：2024-10-24 13:25