Docker,ollama,open-webui安装使用 win11

这篇具有很好参考价值的文章主要介绍了Docker,ollama,open-webui安装使用 win11。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

个人在安装过程中遇到的问题:

        要先安装docker,再用docker安装ollama和open-webui,如果直接去ollama官网下载安装的话,我去打开ollama总是会闪退,虽然ollama的图标还在,但是去访问http://127.0.0.1:11434/时就会显示错误,直接用docker安装,ollama会直接显示在docker上。

        本人对docker并不是很熟,本片文章只是分享一下个人的安装经历,都是一些简单的操作,仅作为参考,电脑配置

window ollama webui安装,docker,容器

Docker安装

        docker官网:Docker Desktop: The #1 Containerization Tool for Developers | Docker

window ollama webui安装,docker,容器

        docker的安装很简单,直接在官网下载.exe文件,双击运行即可,安装过程中也没有给可选择的地方,直接点击下一步就好,装完之后电脑需要重启。(下图因为我已经安装好了,所以双击.exe是这样)。

window ollama webui安装,docker,容器

        docker运行的界面如下图所示,这里登录和不登陆效果差不多,如果是第一次注册登陆的话就会出现下面的购买界面

window ollama webui安装,docker,容器

window ollama webui安装,docker,容器

        安装路径:docker的默认安装路径是在c盘,想要修改路径直接点击设置->Resources->Browse,选择你想要的路径,点击Apply&restart,它会自动帮你把文件移动到你要的位置。

window ollama webui安装,docker,容器

Ollama安装

         docker安装好之后,ollama安装就方便多了,直接win+r,输入cmd运行下面代码:(我这里使用的是GPU

docker run --gpus all -d -v /opt/ai/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

        安装完成后就能看到自己的docker里有ollama

window ollama webui安装,docker,容器

Open-webui安装

        同样在cmd中安装,输入下面代码

docker run -d -p 8080:8080 -add-host=host.docker.internal:host-gateway -name ollama-webui -restart always ghcr.io/ollama-webui/ollama-webui:main

模型下载

        至此所有东西都已经安装好了,不过目前只是一个空壳子,并没有可调用的模型,模型的下载有两种方式,一种是直接在cmd中用docker命令行,另一种是在web页面输入模型名称下载。

1、docker命令行下载模型

docker exec -it ollama ollama pull gemma

 2、web页面下载模型

        在设置->模型中输入模型名字下载即可

window ollama webui安装,docker,容器

参考资料

ollama模型仓库:library (ollama.com)

Docker——Windows版本Docker安装_docker windows-CSDN博客

通过ollama+open webui可视化运行gemma-腾讯云开发者社区-腾讯云 (tencent.com)

【AI】在docker中部署ollama体验AI模型_docker ollama-CSDN博客文章来源地址https://www.toymoban.com/news/detail-854024.html

到了这里,关于Docker,ollama,open-webui安装使用 win11的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Open WebUI大模型对话平台-适配Ollama

    Open WebUI是一种可扩展、功能丰富、用户友好的大模型对话平台,旨在完全离线运行。它支持各种LLM运行程序,包括与Ollama和Openai兼容的API。 直观的界面:我们的聊天界面灵感来自ChatGPT,确保了用户友好的体验。 响应式设计:在桌面和移动设备上享受无缝体验。 快速响应:享受

    2024年04月12日
    浏览(32)
  • Linux平台利用Ollama和Open WebUI部署大模型_open webui 如何添加模型(1)

    Ollama 的安装步骤如下: 安装 Docker : 首先,确保您的系统已经安装了 Docker。您可以按照 Docker 官方文档提供的指南来安装 Docker:https://docs.docker.com/get-docker/ 2. 拉取 Ollama 镜像 : 打开终端或命令提示符,运行以下命令来拉取 Ollama 镜像: 这将从 Docker Hub 上下载 Ollama 的最新版

    2024年04月12日
    浏览(48)
  • Linux平台利用Ollama和Open WebUI部署大模型

    在当今的人工智能领域,部署大型深度学习模型是一个挑战,尤其是对于那些不熟悉复杂技术栈的用户而言。然而,随着开源技术的不断发展,出现了一些强大的工具,如 Ollama 和 Open WebUI,使得部署大型模型变得更加简单和高效。 Ollama 是一个功能强大的开源平台,专门用于

    2024年04月14日
    浏览(44)
  • win11从Github上源码安装AUTOMATIC1111/stable-diffusion-webui(使用anaconda+外接固态硬盘的解决方案)

    主要参考文章: 从零开始,手把手教你本地部署Stable Diffusion Webui AI绘画(Win系最新版) - 知乎 (zhihu.com) (其实在安装过程中因为遇到很多坑,已经看了非常多的安装教程,但写这篇备忘的时候已经都找不到了。感谢这些作者无私分享,很遗憾这里只能上这个最后一篇参考的文

    2024年02月05日
    浏览(47)
  • win11安装stable diffusion webui(AUTOMATIC1111/stable-diffusion-webui) +anaconda+外接固态硬盘

    主要参考文章: 从零开始,手把手教你本地部署Stable Diffusion Webui AI绘画(Win系最新版) - 知乎 (zhihu.com) (其实在安装过程中因为遇到很多坑,已经看了非常多的安装教程,但写这篇备忘的时候已经都找不到了。感谢这些作者无私分享,很遗憾这里只能上这个最后一篇参考的文

    2024年02月09日
    浏览(42)
  • 使用1panel部署Ollama WebUI(dcoekr版)浅谈

    1Panel简化了docker的部署,提供了可视化的操作,但是我在尝试创建Ollama WebUI容器时,遇到了从github拉取镜像网速很慢的问题,所以这里记录一下,同时也希望能够帮助到其他朋友 docker配置github仓库ghcr国内镜像加速,推荐使用1panel方式二:配置镜像仓库,可视化拉取。 先将镜

    2024年04月22日
    浏览(66)
  • Win11安装Docker

    首先先到Docker官网下载最新官方Docker for Windows链接: Docker下载 在官网内可以查看到Docker的开发文档: 根据官网提示,Windows环境下下载Docker必须满足:Docker for Windows requires 64bit Windows 11 Pro and Microsoft Hyper-V(即需要64位Windows 11 Pro(专业版和企业版都可以)和Microsoft Hyper-V),Hy

    2024年02月05日
    浏览(40)
  • Win11下安装docker

    Win11安装docker非常方便,不需要进入bios开启虚拟化权限,直接采用Windows的Linux子系统安装。(WSL,Windows Subsystem Linux) 官网下载Docker的Windows版本 Docker: Accelerated, Containerized Application Development 直接安装,会提示安装WSL2和桌面图标,如果此前没有安装过WSL,记得勾上。安装完成

    2023年04月15日
    浏览(39)
  • Win11 安装 Docker及配置

    Docker: Accelerated, Containerized Application Development https://www.docker.com/ 无脑安装,超简单。 问题描述: Docker Desktop requires a newer WSL kernel version. 问题截图: 问题原因: WSL不是最新版。 解决方案: 适用于 Linux 的 Windows 子系统 (WSL) 可让开发人员直接在 Windows 上按原样运行 GNU/Linux 环

    2024年02月16日
    浏览(35)
  • win11下安装opengauss(Docker)

    相比于MySQL来说,opengauss的安装麻烦了许多。已知的安装方式有两种:一种是在虚拟机上安装centos(7.6)或者openeuler(20.03),然后在使用openguass的镜像进行手动安装。第二种是直接在docker上拉取镜像即可。我选择在win11上直接安装。 1. 安装docker Install Docker Desktop on Windows | D

    2024年04月25日
    浏览(35)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包