kubernetes(K8s)-sealos私有化部署完整指南

这篇具有很好参考价值的文章主要介绍了kubernetes(K8s)-sealos私有化部署完整指南。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

kubernetes(K8s)-Sealos私有化部署完整指南

一、通过sealos CLI部署K8S集群

所有主机均要配置主机名、IP地址、主机名与IP地址解析。

1.1 获取sealos cli工具

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

[root@k8s-master01 ~]# wget https://github.com/labring/sealos/releases/download/v4.3.0/sealos_4.3.0_linux_amd64.rpm
[root@k8s-master01 ~]# yum -y install sealos_4.3.0_linux_amd64.rpm
[root@k8s-master01 ~]# sealos -h

2.1 使用sealos cli部署K8S集群

[root@k8s-master01 ~]# vim sealos-cli-install-k8s.sh
[root@k8s-master01 ~]# cat sealos-cli-install-k8s.sh
sealos gen labring/kubernetes:v1.25.6 \
    labring/helm:v3.12.0 \
    labring/calico:v3.24.1 \
    labring/cert-manager:v1.8.0 \
    labring/openebs:v3.4.0 \
    --masters 192.168.10.140 \
    --nodes 192.168.10.141,192.168.10.142 \
    -p centos > Clusterfile
[root@k8s-master01 ~]# sh sealos-cli-install-k8s.sh
[root@k8s-master01 ~]# ls
sealos-cli-install-k8s.sh
Clusterfile
[root@k8s-master01 ~]# sealos apply -f Clusterfile
[root@k8s-master01 ~]# kubectl get nodes
NAME           STATUS   ROLES           AGE   VERSION
k8s-master01   Ready    control-plane   34m   v1.25.6
k8s-worker01   Ready    <none>          34m   v1.25.6
k8s-worker02   Ready    <none>          34m   v1.25.6
[root@k8s-master01 ~]# kubectl get pods -A
NAMESPACE          NAME                                           READY   STATUS    RESTARTS   AGE
calico-apiserver   calico-apiserver-cf974b99d-k57xr               1/1     Running   0          35m
calico-apiserver   calico-apiserver-cf974b99d-p8r7l               1/1     Running   0          35m
calico-system      calico-kube-controllers-85666c5b94-rghh2       1/1     Running   0          35m
calico-system      calico-node-64zcc                              1/1     Running   0          35m
calico-system      calico-node-887vb                              1/1     Running   0          35m
calico-system      calico-node-hccfd                              1/1     Running   0          35m
calico-system      calico-typha-fc74db775-dn47v                   1/1     Running   0          35m
calico-system      calico-typha-fc74db775-kkqz2                   1/1     Running   0          35m
calico-system      csi-node-driver-pp75r                          2/2     Running   0          35m
calico-system      csi-node-driver-q4z7j                          2/2     Running   0          35m
calico-system      csi-node-driver-q7ld9                          2/2     Running   0          35m
cert-manager       cert-manager-655bf9748f-wjxxh                  1/1     Running   0          35m
cert-manager       cert-manager-cainjector-7985fb445b-pl7hv       1/1     Running   0          35m
cert-manager       cert-manager-webhook-6dc9656f89-wxtbq          1/1     Running   0          35m
kube-system        coredns-565d847f94-c7s4p                       1/1     Running   0          36m
kube-system        coredns-565d847f94-wf4hz                       1/1     Running   0          36m
kube-system        etcd-k8s-master01                              1/1     Running   0          36m
kube-system        kube-apiserver-k8s-master01                    1/1     Running   0          36m
kube-system        kube-controller-manager-k8s-master01           1/1     Running   0          36m
kube-system        kube-proxy-bl67f                               1/1     Running   0          35m
kube-system        kube-proxy-gn2qf                               1/1     Running   0          35m
kube-system        kube-proxy-kcrg5                               1/1     Running   0          36m
kube-system        kube-scheduler-k8s-master01                    1/1     Running   0          36m
kube-system        kube-sealos-lvscare-k8s-worker01               1/1     Running   0          35m
kube-system        kube-sealos-lvscare-k8s-worker02               1/1     Running   0          35m
openebs            openebs-localpv-provisioner-79f4c678cd-fvjt4   1/1     Running   0          35m
tigera-operator    tigera-operator-6675dc47f4-jdxxt               1/1     Running   0          35m

二、通过sealos CLI部署相关依赖组件

使用下面脚本可以一键部署sealos依赖,在部署sealos依赖组件前,请先部署负载均衡器metallb。

[root@k8s-master01 ~]# cat sealos-dep.sh
#!/bin/bash
set -e

cat << EOF > ingress-nginx-config.yaml
apiVersion: apps.sealos.io/v1beta1
kind: Config
metadata:
  creationTimestamp: null
  name: ingress-nginx-config
spec:
  data: |
    controller:
      service:
        type: LoadBalancer
  match: docker.io/labring/ingress-nginx:v1.5.1
  path: charts/ingress-nginx/values.yaml
  strategy: merge
EOF

sealos run docker.io/labring/kubernetes-reflector:v7.0.151\
    docker.io/labring/ingress-nginx:v1.5.1\
    docker.io/labring/zot:v1.4.3\
    docker.io/labring/kubeblocks:v0.5.3\
    --env policy=anonymousPolicy\
    --config-file ingress-nginx-config.yaml

echo "patch ingress-nginx-controller tolerations to allow run on master node, if you don't want to run on master node, please ignore this step"
kubectl -n ingress-nginx patch ds ingress-nginx-controller -p '{"spec":{"template":{"spec":{"tolerations":[{"key":"node-role.kubernetes.io/control-plane","operator":"Exists","effect":"NoSchedule"}]}}}}'

echo "waitting for kubeblocks crd created, this may take a while"
while ! kubectl get clusterdefinitions.apps.kubeblocks.io redis >/dev/null 2>&1; do
  sleep 5
done

echo "start patch redis clusterdefinition"
kubectl patch clusterdefinitions.apps.kubeblocks.io redis --type='json' -p '[{"op": "add", "path": "/spec/componentDefs/0/podSpec/containers/1/resources/limits", "value": {"cpu":"100m", "memory":"100Mi"}}]'
echo "patch redis success"

echo "wait for all pod to be ready then install Sealos"
kubectl get po -A

[root@k8s-master01 ~]# sh sealos-dep.sh
[root@k8s-master01 ~]# kubectl get pods -A
NAMESPACE          NAME                                           READY   STATUS    RESTARTS   AGE
calico-apiserver   calico-apiserver-cf974b99d-k57xr               1/1     Running   0          65m
calico-apiserver   calico-apiserver-cf974b99d-p8r7l               1/1     Running   0          65m
calico-system      calico-kube-controllers-85666c5b94-rghh2       1/1     Running   0          65m
calico-system      calico-node-64zcc                              1/1     Running   0          65m
calico-system      calico-node-887vb                              1/1     Running   0          65m
calico-system      calico-node-hccfd                              1/1     Running   0          65m
calico-system      calico-typha-fc74db775-dn47v                   1/1     Running   0          65m
calico-system      calico-typha-fc74db775-kkqz2                   1/1     Running   0          65m
calico-system      csi-node-driver-pp75r                          2/2     Running   0          65m
calico-system      csi-node-driver-q4z7j                          2/2     Running   0          65m
calico-system      csi-node-driver-q7ld9                          2/2     Running   0          65m
cert-manager       cert-manager-655bf9748f-wjxxh                  1/1     Running   0          65m
cert-manager       cert-manager-cainjector-7985fb445b-pl7hv       1/1     Running   0          65m
cert-manager       cert-manager-webhook-6dc9656f89-wxtbq          1/1     Running   0          65m
ingress-nginx      ingress-nginx-controller-m5lcx                 1/1     Running   0          4m30s
ingress-nginx      ingress-nginx-controller-tlnrq                 1/1     Running   0          5m2s
ingress-nginx      ingress-nginx-controller-tvqm8                 1/1     Running   0          4m7s
kb-system          kubeblocks-8d66dc669-j4k65                     1/1     Running   0          5m2s
kube-system        coredns-565d847f94-c7s4p                       1/1     Running   0          66m
kube-system        coredns-565d847f94-wf4hz                       1/1     Running   0          66m
kube-system        etcd-k8s-master01                              1/1     Running   0          66m
kube-system        kube-apiserver-k8s-master01                    1/1     Running   0          66m
kube-system        kube-controller-manager-k8s-master01           1/1     Running   0          66m
kube-system        kube-proxy-bl67f                               1/1     Running   0          66m
kube-system        kube-proxy-gn2qf                               1/1     Running   0          66m
kube-system        kube-proxy-kcrg5                               1/1     Running   0          66m
kube-system        kube-scheduler-k8s-master01                    1/1     Running   0          66m
kube-system        kube-sealos-lvscare-k8s-worker01               1/1     Running   0          65m
kube-system        kube-sealos-lvscare-k8s-worker02               1/1     Running   0          65m
openebs            openebs-localpv-provisioner-79f4c678cd-fvjt4   1/1     Running   0          65m
reflector-system   reflector-7979f4b985-88ph9                     1/1     Running   0          5m43s
tigera-operator    tigera-operator-6675dc47f4-jdxxt               1/1     Running   0          65m
zot                zot-55dbc7598b-cszlw                           1/1     Running   0          5m19s

三、通过sealos CLI部署Sealos Cloud

[root@k8s-master01 ~]# vim sealos-cloud-install.sh

[root@k8s-master01 ~]# cat sealos-cloud-install.sh
sealos run docker.io/labring/sealos-cloud:latest \
    --env cloudDomain="www.kubemsb.com"

自定义域名及域名证书

[root@k8s-master01 ~]# mkdir kubemsbcert
[root@k8s-master01 ~]# cd kubemsbcert/

[root@k8s-master01 kubemsbcert]# pwd
/root/kubemsbcert
[root@k8s-master01 kubemsbcert]# ls
kubemsb.com.key  kubemsb.com.pem
[root@k8s-master01 ~]# vim sealos-cloud-install-script.sh
[root@k8s-master01 ~]# cat sealos-cloud-install-script.sh
#!/bin/bash
# 读取原始证书及密钥文件
tls_crt_file="/root/kubemsbcert/kubemsb.com.pem"
tls_key_file="/root/kubemsbcert/kubemsb.com.key"

# 使用base64进行转换

tls_crt_base64=$(cat $tls_crt_file | base64 | tr -d '\n')
tls_key_base64=$(cat $tls_key_file | base64 | tr -d '\n')

# 定义YAML文件
yaml_content="
apiVersion: apps.sealos.io/v1beta1
kind: Config
metadata:
  name: secret
spec:
  path: manifests/tls-secret.yaml

  match: docker.io/labring/sealos-cloud:latest
  strategy: merge
  data: |
    data:
      tls.crt: $tls_crt_base64
      tls.key: $tls_key_base64
"
# 创建新的cloud-config.yaml文件
echo "$yaml_content" > tls-secret.yaml

sealos run docker.io/labring/sealos-cloud:latest \
--env cloudDomain="www.kubemsb.com" \
--config-file tls-secret.yaml
[root@k8s-master01 ~]# sh sealos-cloud-install.sh
[root@k8s-master01 ~]# kubectl get pods -A
NAMESPACE               NAME                                                READY   STATUS    RESTARTS       AGE
account-system          account-controller-manager-688db77bc6-7xs5q         2/2     Running   0              2m25s
app-system              app-controller-manager-7679d46bff-47g7m             2/2     Running   0              2m30s
applaunchpad-frontend   applaunchpad-frontend-7c67d4dc7f-6xbqv              1/1     Running   0              2m15s
calico-apiserver        calico-apiserver-cf974b99d-k57xr                    1/1     Running   0              150m
calico-apiserver        calico-apiserver-cf974b99d-p8r7l                    1/1     Running   0              150m
calico-system           calico-kube-controllers-85666c5b94-rghh2            1/1     Running   0              151m
calico-system           calico-node-64zcc                                   1/1     Running   0              151m
calico-system           calico-node-887vb                                   1/1     Running   0              151m
calico-system           calico-node-hccfd                                   1/1     Running   0              151m
calico-system           calico-typha-fc74db775-dn47v                        1/1     Running   0              151m
calico-system           calico-typha-fc74db775-kkqz2                        1/1     Running   0              151m
calico-system           csi-node-driver-pp75r                               2/2     Running   0              151m
calico-system           csi-node-driver-q4z7j                               2/2     Running   0              151m
calico-system           csi-node-driver-q7ld9                               2/2     Running   0              151m
cert-manager            cert-manager-655bf9748f-wjxxh                       1/1     Running   0              151m
cert-manager            cert-manager-cainjector-7985fb445b-pl7hv            1/1     Running   0              151m
cert-manager            cert-manager-webhook-6dc9656f89-wxtbq               1/1     Running   0              151m
costcenter-frontend     costcenter-frontend-58c55df9f-qgvql                 1/1     Running   0              2m1s
dbprovider-frontend     dbprovider-frontend-65ff995c74-rtt5g                1/1     Running   0              2m4s
ingress-nginx           ingress-nginx-controller-m5lcx                      1/1     Running   0              90m
ingress-nginx           ingress-nginx-controller-tlnrq                      1/1     Running   0              90m
ingress-nginx           ingress-nginx-controller-tvqm8                      1/1     Running   0              89m
kb-system               kubeblocks-8d66dc669-j4k65                          1/1     Running   0              90m
kube-system             coredns-565d847f94-c7s4p                            1/1     Running   0              151m
kube-system             coredns-565d847f94-wf4hz                            1/1     Running   0              151m
kube-system             etcd-k8s-master01                                   1/1     Running   0              152m
kube-system             kube-apiserver-k8s-master01                         1/1     Running   0              152m
kube-system             kube-controller-manager-k8s-master01                1/1     Running   0              152m
kube-system             kube-proxy-bl67f                                    1/1     Running   0              151m
kube-system             kube-proxy-gn2qf                                    1/1     Running   0              151m
kube-system             kube-proxy-kcrg5                                    1/1     Running   0              151m
kube-system             kube-scheduler-k8s-master01                         1/1     Running   0              152m
kube-system             kube-sealos-lvscare-k8s-worker01                    1/1     Running   0              151m
kube-system             kube-sealos-lvscare-k8s-worker02                    1/1     Running   0              151m
openebs                 openebs-localpv-provisioner-79f4c678cd-fvjt4        1/1     Running   0              151m
reflector-system        reflector-7979f4b985-88ph9                          1/1     Running   0              91m
resources-system        resources-controller-manager-869f6cdfbc-tjr7b       2/2     Running   0              2m28s
resources-system        resources-metering-manager-6775996cdf-rzkbm         1/1     Running   1 (110s ago)   2m26s
sealos-system           licenseissuer-controller-manager-84df9dfcb6-smfr9   2/2     Running   0              2m22s
sealos                  desktop-frontend-7c9f4fb54d-5z7bw                   1/1     Running   0              2m17s
sealos                  sealos-mongodb-mongodb-0                            3/3     Running   0              2m40s
terminal-frontend       terminal-frontend-7744ffd5d8-z9vnr                  1/1     Running   0              2m6s
terminal-system         terminal-controller-manager-74f9f5dcf4-t7dzw        2/2     Running   0              2m32s
tigera-operator         tigera-operator-6675dc47f4-jdxxt                    1/1     Running   0              151m
user-system             user-controller-manager-5d978fb884-nmdq5            2/2     Running   0              2m34s
zot                     zot-55dbc7598b-cszlw                                1/1     Running   0              90m

四、访问Sealos Cloud

[root@k8s-master01 ~]# kubectl get svc -n ingress-nginx
NAME                                 TYPE        CLUSTER-IP    EXTERNAL-IP   PORT(S)                      AGE
ingress-nginx-controller             NodePort    10.96.1.210   <none>        80:31296/TCP,443:30690/TCP   103m
ingress-nginx-controller-admission   ClusterIP   10.96.2.60    <none>        443/TCP                      103m
[root@k8s-master01 ~]# kubectl get ingress -A
NAMESPACE               NAME                    CLASS    HOSTS                          ADDRESS       PORTS     AGE
applaunchpad-frontend   applaunchpad-frontend   <none>   applaunchpad.www.kubemsb.com   10.96.1.210   80, 443   14m
costcenter-frontend     sealos-costcenter       <none>   costcenter.www.kubemsb.com     10.96.1.210   80, 443   14m
dbprovider-frontend     dbprovider-frontend     <none>   dbprovider.www.kubemsb.com     10.96.1.210   80, 443   14m
sealos                  sealos-desktop          <none>   www.kubemsb.com                10.96.1.210   80, 443   14m
terminal-frontend       sealos-terminal         <none>   terminal.www.kubemsb.com       10.96.1.210   80, 443   14m

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

五、使用Sealos Cloud部署应用

5.1 浏览器访问前设置

使用chrome访问时,如果证书无法验证通过,会报不安全,可通过为chrome设置–ignore-certificate-errors,忽略不安全访问。

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

5.2 浏览器访问

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

5.3 应用部署

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务

sealos k8s 部署,Kubernetes集群部署,kubernetes,容器,云原生,云计算,微服务文章来源地址https://www.toymoban.com/news/detail-767516.html

[root@k8s-master01 ~]# kubectl get all -n ns-9yqndhll
NAME                                     READY   STATUS    RESTARTS   AGE
pod/nginxweb-786fcf6c9c-7dscc            1/1     Running   0          3m24s


NAME                        TYPE        CLUSTER-IP    EXTERNAL-IP   PORT(S)    AGE
service/nginxweb            ClusterIP   10.96.0.149   <none>        80/TCP     3m24s


NAME                                READY   UP-TO-DATE   AVAILABLE   AGE
deployment.apps/nginxweb            1/1     1            1           3m24s


NAME                                           DESIRED   CURRENT   READY   AGE
replicaset.apps/nginxweb-786fcf6c9c            1         1         1       3m24s

到了这里,关于kubernetes(K8s)-sealos私有化部署完整指南的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 安装Joplin Server私有化部署(docker)

    前言: 老规矩官方文档链接 1. 首先拥有一个自己的云服务器(如果没有外网访问需求的话就随意吧) 安装docker安装方式 这里Joplin是使用PostgreSQL数据库的形式, 如果没有PostgreSQL库的话, Joplin默认使用的是SQLLite数据库 我这里使用的是docker-compose部署用的是官网的demo.yml所以就直接也

    2024年02月21日
    浏览(41)
  • 可私有化部署的车牌识别API接口

    车牌OCR识别 的出现为企业提供了一种高效、准确的车牌识别和信息提取解决方案。通过图像预处理、区域定位、字符分割和字符识别等步骤,将获取的车牌图片或视频中的车牌信息瞬时输出,可提供车牌识别API接口做二次开发,该 API 能够自动识别车牌中的段信息,并

    2024年02月11日
    浏览(44)
  • 关于语言模型私有化部署的讨论 | AIGC实践

    上周在与TC同行关于AIGC实践的线上交流中,大家普遍比较关心的一个实践切入点是:语言模型的私有化部署——简单来说,就是在企业内部,部署一个属于自己的“ChatGPT”,对于本行业/专业知识,以及企业独有的产品和技术信息有充分的了解,并且提供用户接口,通过自然

    2024年02月11日
    浏览(44)
  • 私有化部署大模型:5个.Net开源项目

    从零构建.Net前后端分离项目 今天一起盘点下,10月份推荐的5个.Net开源项目(点击标题查看详情)。 1、BootstrapBlazor企业级组件库:前端开发的革新之路 BootstrapBlazor是一个用于构建现代Web应用程序的开源框架,它基于Blazor框架,采用Bootstrap的UI样式。Blazor框架允许使用C#代替

    2024年02月05日
    浏览(42)
  • 开源双语对话语言模型 ChatGLM-6B 本地私有化部署

    本文首发于:https://www.licorne.ink/2023/08/llm-chatglm-6b-local-deploy/ ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGL

    2024年02月10日
    浏览(48)
  • 建立自己的ChatGPT:LLama私有化部署及测试

    大语言模型(LLM)现在非常流行,可惜ChatGPT等都不开源。大家没法搭建一个自己的环境来感受以下。幸好Meta开源了LLama,这是LLama的介绍: https://ai.facebook.com/blog/large-language-model-llama-meta-ai/ 具体技术细节请看论文: LLaMA: Open and Efficient Foundation Language Models 以 Meta 开源 LLaMA(直

    2023年04月22日
    浏览(38)
  • 企业内部即时通讯工具支持内网私有化部署

    即时通讯可以说是与我们生活相关最为密切的工具了,即时通讯可以帮助我们与亲朋好友进行交流通讯、文件传输、视频通话等,而企业即时通讯正是个人即时通讯的应用延伸,它可以为互联网时代的企业员工交流,企业信息互通创造良好的条件,现在越来越多的企业开始私

    2023年04月14日
    浏览(40)
  • SaaS/PaaS/laaS,私有化/云部署,低代码

    4399春招火热进行中 🗣4399游戏2024届春招火热进行中!! HC很足!!【关于4399】全球领先的中文娱乐平台之一,连续九年中国互联网企业40强 ,拥有《文明与征服》等多款亿   地平线暑期实习启动 地平线地平线25届暑期转正实习内推即将启动,大家可以提前准备简历并mark一

    2024年04月08日
    浏览(66)
  • 大语言模型之六- LLM之企业私有化部署

    2023年上半年,广泛使用API(如OpenAI)来创建基于大型语言模型(LLM)的基础设施,极大地塑造了软件领域。 LangChain 和LlamaIndex在这一趋势中发挥了重要的作用。2023年下半年LLMOps的运维工作流程中微调(或指令调整)模型门槛降低基本成了业内标准流程,这一趋势的发展主要

    2024年02月11日
    浏览(30)
  • C#开源项目:私有化部署LLama推理大模型

    推荐一个C#大模型推理开源项目,让你轻松驾驭私有化部署! 01 项目简介 LLama是Meta发布的一个免费开源的大模型,是一个有着上百亿数量级参数的大语言模型,支持CPU和GPU两种方式。 而LLamaSharp就是针对llama.cpp封装的C#版本,让方便我们基于C#开发应用,让我们不需要自己编译

    2024年02月03日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包