教你如何在本地搭建DeepSeek,摆脱DeepSeek服务器繁忙,在家也能用

DeepSeek 近期因使用量激增而导致服务器繁忙、响应缓慢,甚至 API 充值功能暂停,严重影响用户体验。为了摆脱这一困扰,本文将详细介绍如何利用开源工具 Ollama 在本地搭建 DeepSeek,让你在家也能享受流畅的使用体验。

DeepSeek 服务器繁忙现状

由于DeepSeek 现在热度实在是太高,导致现在使用起来非常卡顿,体验感不好,一直回复稍后再试。

DeepSeek服务器繁忙

甚至现在连 API 充值都停了,钱都不赚了:

DeepSeekAPI 充值暂停

还直接上了热搜:

DeepSeek服务器繁忙

DeepSeek 服务器时常出现繁忙状态,导致使用体验不佳,甚至出现 API 充值暂停的情况。为了解决这一问题,本文将介绍如何使用开源工具 Ollama 在本地搭建 DeepSeek,让您在家也能畅享高效体验。

概述

今天我们就介绍使用开源的工具 Ollama 本地安装  DeepSeek,Ollama 是一个开源的本地大语言模型运行框架,目前在 Github 上斩获了 121k+ 的 Star:

Ollama介绍-3

Ollama介绍-2

为什么选择 Ollama?

Ollama 是一款开源的本地大语言模型运行框架,专为在个人电脑上便捷部署和运行大型语言模型(LLM)而设计。其主要优势包括:

  • 跨平台支持:适用于 macOS、Windows、Linux 以及 Docker 环境。

  • 模型量化支持:大幅降低显存需求,使普通家用电脑也能运行大型模型。

  • 多模型兼容:支持 DeepSeek、Qwen、CodeGeeX4、Phi4、Llama 等众多热门模型。

Ollama介绍-3

核心特性:

  • 全平台支持:Windows/macOS/Linux/Docker

  • 显存优化技术:4-bit量化可将模型体积压缩70%

  • 多模型生态:支持DeepSeek/LLaMA3/Qwen等20+主流模型

  • REST API集成:完美对接现有开发环境

Ollama 支持多种流行的大型语言模型,包括但不限于 DeepSeek、qwen、codegeex4、phi4、llama 等,我们可以根据自己的需求选择合适的模型进行本地运行。

Ollama支持多种流行的大型语言模型

相关资源

Ollama 官方地址:https://ollama.com/
Github 开源地址:https://github.com/ollama/ollama
Ollama 入门教程:/ollama/ollama-tutorial.html

Ollama 安装及使用指南

安装 Ollama

Ollama 支持多种操作系统,包括 macOS、Windows、Linux 以及通过 Docker 容器运行。

Ollama 安装很简单,直接在官网 https://ollama.com/download 下载对应系统的安装包即可:

ollama本地部署DeepSeek安装示意图-1

下载完成后,双击安装程序并按照提示完成安装。

ollama本地部署DeepSeek安装示意图-2

验证安装

打开命令提示符或 PowerShell,输入以下命令验证安装是否成功:

ollama --version

如果显示版本号,则说明安装成功。

运行 DeepSeek 模型

在命令行中输入以下命令启动 DeepSeek 模型:

ollama run deepseek-coder

如果该模型没安装,会先下载,如下所示:

ollama本地部署DeepSeek下载进度图

注意:下载初期速度较快,但中途可能会变慢,此时可使用 ctrl+d 中断下载,再次执行命令后速度会恢复。

安装成功后,即可开始与模型对话。输入 /? 查看所有可用命令:

>>> /? Available Commands:
  /set            Set session variables
  /show           Show model information
  /load <model>   Load a session or model
  /save <model>   Save your current session
  /clear          Clear session context
  /bye            Exit
  /help           Help for a command
  /? shortcuts    Help for keyboard shortcuts
安装成功后,我们就可以开始对话了:

ollama本地部署DeepSeek效果图

输入 /bye 退出:

>>> /bye

查找更多支持模型

很多支持的大模型可以通过官方 https://ollama.com/library 查找,然后点击具体模型,可以查看下载运行命令: 

ollama本地部署DeepSeek效果图

使用 Ollama 提供的 REST API

另外,Ollama 提供了一个用于运行和管理模型的 REST API,以下是使用该 API 的示例。

生成文本示例

使用 curl 命令生成文本:

curl http://localhost:11434/api/generate -d '{  
    "model": "llama3.2",  
    "prompt":"Why is the sky blue?"
}'

与模型聊天

通过以下命令与模型进行对话:文章来源地址https://www.toymoban.com/article/785.html

curl http://localhost:11434/api/chat -d '{  
    "model": "llama3.2",  
    "messages": [    
        { "role": "user", "content": "why is the sky blue?" }  
    ]
}'

到此这篇关于教你如何在本地搭建DeepSeek,摆脱DeepSeek服务器繁忙,在家也能用的文章就介绍到这了,更多相关内容可以在右上角搜索或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

原文地址:https://www.toymoban.com/article/785.html

如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请联系站长进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • 如何搭建自己的饥荒Don‘t Starve服务器,摆脱联机卡顿和小伙伴快乐联机

    如何搭建自己的饥荒Don‘t Starve服务器,摆脱联机卡顿和小伙伴快乐联机

    原文作者:Mintimate 原文地址:https://cloud.tencent.com/developer/article/2048973 头图不能少呀~~ 饥荒官方服务器经常无法连接,无法和小伙伴玩耍;如何搭建自己的饥荒服务器呢?和小伙伴随时随地,快乐联机。 饥荒这个游戏,虽然首发于2016年,但是贵在好玩呀。和Minecraft一样,

    2024年02月02日
    浏览(10)
  • 手把手教你如何使用Unity搭建简易图片服务器

    手把手教你如何使用Unity搭建简易图片服务器

    目录 引言 服务器 WAMP简介 WAMP的配置与使用 主要的WAMP集成环境有: 正文 1、外部工具素材准备 首先下载并安装 WAMP  图片路径设置 2、创建 Unity 工程 将图片加载到 Unity 项目中: 代码块 运行效果如下: 网络游戏中,服务器的搭建尤为重要,无论是授权服务器,还是非授权服务

    2024年02月02日
    浏览(32)
  • 教你如何使用云服务器搭建我的世界Minecraft服务器(超级简单-10分钟完成)

    教你如何使用云服务器搭建我的世界Minecraft服务器(超级简单-10分钟完成)

    一个人玩游戏没啥意思,和朋友一块联机呢,距离太远,家庭局域网宽带又没有公网ip,你的朋友没办法与你联机,然而你只需要一台服务器即可搞定了;但是很多用户没没接触过相关的内容,具体的该怎么操作呢?下面我将吧详细的教程分享给大家,适合完全零基础,跟着

    2024年02月07日
    浏览(12)
  • 教你如何使用Nodejs搭建HTTP web服务器并发布上线公网

    教你如何使用Nodejs搭建HTTP web服务器并发布上线公网

    转载自内网穿透工具的文章:使用Nodejs搭建HTTP服务,并实现公网远程访问「内网穿透」 Node.js 是能够在服务器端运行 JavaScript 的开放源代码、跨平台运行环境。Node.js 由 OpenJS Foundation(原为 Node.js Foundation,已与 JS Foundation 合并)持有和维护,亦为 Linux 基金会的项目。Node.js

    2024年02月05日
    浏览(7)
  • 如何快速用node在本地搭建一个服务器

    如何快速用node在本地搭建一个服务器

    众所周知, 服务器是通过安装特殊的软件(或者运行特殊的代码)来提供网络服务的机器 。那么我们的电脑可不可以弄成一个服务器,来供他人访问呢? 答案是可以的,这里我们需要安装一下 node.js 这个软件。传送门:Node.js 中文网 下载好后按住Win + R 运行cmd小黑窗,输入

    2024年02月04日
    浏览(7)
  • 论如何本地搭建个人hMailServer邮件服务远程发送邮件无需域名公网服务器?

    论如何本地搭建个人hMailServer邮件服务远程发送邮件无需域名公网服务器?

    🌷🍁 博主猫头虎(🐅🐾)带您 Go to New World✨🍁 🦄 博客首页 ——🐅🐾猫头虎的博客🎐 🐳 《面试题大全专栏》 🦕 文章图文并茂🦖生动形象🐅简单易学!欢迎大家来踩踩~🌺 🌊 《IDEA开发秘籍专栏》 🐾 学会IDEA常用操作,工作效率翻倍~💐 🌊 《100天精通Golang(基础

    2024年01月24日
    浏览(11)
  • 【IIS搭建网站】如何使用本地电脑做服务器搭建web站点并公网访问

    【IIS搭建网站】如何使用本地电脑做服务器搭建web站点并公网访问

    目录 前言 Windows网页设置 Windows IIS功能设置 IIS网页访问测试 Cpolar内网穿透 下载安装Cpolar Cpolar云端设置 3.3 Cpolar本地设置 公网访问测试 结语 在网上各种教程和介绍中,搭建网页都会借助各种软件的帮助,比如网页运行的Apache和Nginx、数据库软件MySQL和MSSQL之类,为方便用户使

    2023年04月14日
    浏览(29)
  • 如何本地搭建FastDFS文件服务器并实现远程访问【内网穿透】

    如何本地搭建FastDFS文件服务器并实现远程访问【内网穿透】

    FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。 FastDFS为互联网量身定制,充分考

    2024年02月04日
    浏览(11)
  • 如何通过本地搭建wamp服务器并实现无公网IP远程访问

    如何通过本地搭建wamp服务器并实现无公网IP远程访问

    软件技术的发展日新月异,各种能方便我们生活、工作和娱乐的新软件层出不穷,但也有一些经过时间和用户考验的老牌软件屹立不倒。就一我们熟悉的网站集成环境来说,全球就有很多种server软件。每个软件都有各自的特色(虽然同质化很严重),也拥有自己固定的适用群

    2024年02月12日
    浏览(8)
  • 如何在OpenWRT部署uhttpd搭建服务器实现远程访问本地web站点

    如何在OpenWRT部署uhttpd搭建服务器实现远程访问本地web站点

    uhttpd 是 OpenWrt/LuCI 开发者从零开始编写的 Web 服务器,目的是成为优秀稳定的、适合嵌入式设备的轻量级任务的 HTTP 服务器,并且和 OpenWrt 配置框架非常好地集成在一起。它是管理 OpenWrt 的默认的 Web 服务器,还提供了现代 Web 服务器所有的 功能 。 下面我们将在openwrt上部署

    2024年01月22日
    浏览(9)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包