服务器上部署GPU版的milvus向量数据库

这篇具有很好参考价值的文章主要介绍了服务器上部署GPU版的milvus向量数据库。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1、安装docker compose

  1. 我们可以从 Github 上下载它的二进制包来使用,最新发行的版本地址:
    https://github.com/docker/compose/releases
sudo curl -L "https://github.com/docker/compose/releases/download/v2.6.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
  1. 将可执行权限应用于二进制文件:
$ sudo chmod +x /usr/local/bin/docker-compose
  1. 创建软链:
 $ sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
  1. 测试是否安装成功:
$ docker-compose version

2、安装GPU驱动

已安装好的朋友,这步可以跳过

sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

3、下载安装milvus

1.Download milvus-standalone-docker-compose-gpu.yml

wget https://github.com/milvus-io/milvus/releases/download/v2.4.0-rc.1/milvus-standalone-docker-compose-gpu.yml -O docker-compose.yml

大家根据自己的硬件配置,使用单GPU,还是使用多GPU都可以。在docker-compose.yml文件中更改。
单GPU:

...
standalone:
  gpu:
    initMemSize: 0
    maxMemSize: 1024
  ...
  deploy:
    resources:
      reservations:
        devices:
          - driver: nvidia
            capabilities: ["gpu"]
            device_ids: ["0"]
...

多GPU:

...
standalone:
  gpu:
    initMemSize: 0
    maxMemSize: 1024
  ...
  deploy:
    resources:
      reservations:
        devices:
          - driver: nvidia
            capabilities: ["gpu"]
            device_ids: ['0', '1']
...

2.Start Milvus

在docker-compose.yml路径下,

sudo docker compose up -d

sudo docker-compose up -d

启动后会显示:

Creating milvus-etcd … done
Creating milvus-minio … done
Creating milvus-standalone … done

3.验证安装

Milvus 单机版启动后,将有三个 docker 容器在运行,包括 Milvus 单机版服务及其两个依赖项。

sudo docker ps
      Name                     Command                  State                            Ports
--------------------------------------------------------------------------------------------------------------------
milvus-etcd         etcd -advertise-client-url ...   Up             2379/tcp, 2380/tcp
milvus-minio        /usr/bin/docker-entrypoint ...   Up (healthy)   9000/tcp
milvus-standalone   /tini -- milvus run standalone   Up             0.0.0.0:19530->19530/tcp, 0.0.0.0:9091->9091/tcp

4.Stop Milvus

关闭Milvus standalone:

sudo docker compose down

在关闭Milvus后删除数据:

sudo rm -rf  volumes

参考链接:https://milvus.io/docs/install_standalone-docker-compose-gpu.md文章来源地址https://www.toymoban.com/news/detail-853646.html

到了这里,关于服务器上部署GPU版的milvus向量数据库的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 在GPU云服务器中部署Stable Diffusion web UI

    最近在研究如何使用Controlnet细粒度控制Stable Diffusion生成满意的图片,无奈自己本地的显卡只有6G的显存,而Controlnet的Openpose功能需要10G以上的显存才能正常出图。于是只能租用GPU云服务器并将SD模型部署在服务器上,然后再通过本地浏览器访问。 推荐这篇文章:GPU云服务器平

    2023年04月12日
    浏览(52)
  • 腾讯云GPU服务器部署Ai绘画Stable Diffusion 小白可用

    本人本地是个win10的PC 安装了 显示GPU 算力不够,升级配置也需要钱 云服务商的选择上,很普通,大家随意选择腾讯云/阿里云/移动云/华为云…都可以。我是之前用的腾讯云,在腾讯云上抢的GPU云服务器(https://cloud.tencent.com/act/cps/redirect?redirect=36105cps_key=b77af5ec25020b228a8230a227

    2023年04月21日
    浏览(57)
  • 打造专属个人模型-私有独立离线模型部署-阿里云GPU服务器配置

    阿里云有免费的机器学习 GPU 服务器,免费试用活动页https://free.aliyun.com 只要没有申请过 PAI-DSW 资源的新老用户皆可申请 5000CU 的免费额度,3个月内使用。 选择第一个进行立即试用 可以看到试用的界面 如果遇到下面的错误,当前账号没有权限开通PAI,请联系主账号。 您可以

    2024年02月11日
    浏览(41)
  • 帆软:本地文件连接数据库,并部署到Tomcat服务器上

    1、本文基于Navicat管理器,选用MySQL数据库进行管理 选中此电脑,右键选中管理,手动启动MairaDB数据库(MySQL同理) 计算机管理(本地)目录下-服务和应用程序-服务,找到MARIADB,选中右键点击启动 当图中位置出现正在启动即可 2、打开Navicat管理器,新建连接并双击连接图标

    2024年02月12日
    浏览(56)
  • 在阿里云Linux服务器上部署MySQL数据库流程

    阿里云百科分享在阿里云Linux服务器上部署MySQL数据库流程,MySQL是一个关系型数据库管理系统,常用于LAMP和LNMP等网站场景中。本教程介绍如何在Linux系统ECS实例上安装、配置以及远程访问MySQL数据库。 目录 背景信息 Alibaba Cloud Linux 2/3、CentOS 7.x 步骤一:安装MySQL 步骤二:配置

    2024年02月13日
    浏览(52)
  • JavaWeb项目部署到服务器并连接本地数据库(超详细!)

    目录 一、下载XShell、Xftp工具 二 、建立服务器连接 三、服务器环境配置 四、打包web项目传输入服务器 五、服务器Web项目连接本地数据库 个人博客欢迎访问 --- 猿客栈 在XShell官网下载两个工具,用来操作服务器的Linux系统 输入服务器的主机名,验证用户和密码,默认用户名

    2024年02月05日
    浏览(44)
  • 使用Socket实现TCP版的回显服务器

    Socket(Java套接字)是Java编程语言提供的一组类和接口,用于实现网络通信。它基于Socket编程接口,提供了一种简单而强大的方式来实现网络应用程序。 Socket类库提供了丰富的方法和功能,用于处理网络通信的各个方面。它支持TCP和UDP协议,可以实现可靠的、面向连接的通信

    2024年02月14日
    浏览(47)
  • 向量数据库:Milvus

            Milvus由Go(63.4%),Python(17.0%),C++(16.6%),Shell(1.3%)等语言开发开发,支持python,go,java接口(C++,Rust,c#等语言还在开发中),支持单机、集群部署,支持CPU、GPU运算。Milvus 中的所有搜索和查询操作都在内存中执行。,当前支持的Dimensions of a vector的最大值为32,768。其他限制。

    2024年01月23日
    浏览(55)
  • 向量数据库~milvus

    本文主要基于milvus官方的材料外加自己的一些理解整理而来,欢迎交流 云原生:存算分离; 读写分离; 增量存量分离; 微服务架构,极致弹性; 日志即数据:通过message queue解耦生产者、消费着,降低系统复杂度; 提升index、data、query模块弹性; 流批一体:表和日志二象性;流式

    2024年02月03日
    浏览(47)
  • Linux服务器安装部署MongoDB数据库 - 无公网IP远程连接

    目录 前言 1. 配置Mongodb源 2. 安装MongoDB 3. 局域网连接测试 4. 安装cpolar内网穿透 5. 配置公网访问地址 6. 公网远程连接 7. 固定连接公网地址 8. 使用固定地址连接 转载自Cpolar Lisa文章:Linux服务器安装部署MongoDB数据库 - 无公网IP远程连接「内网穿透」 MongoDB是一个介于关系数据库

    2024年02月02日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包