.net平台使用SDK快速对接各大语言模型

这篇具有很好参考价值的文章主要介绍了.net平台使用SDK快速对接各大语言模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

.net平台使用SDK快速对接各大语言模型

1.项目介绍

最近,在做GPT项目时,发现各个平台的接口规范和参数不同,需要根据不同平台和模型写多种接口,比较麻烦,不想Python那样有丰富和方便的AI环境, 如果c#有一个SDK可以方便调用各种平台模型就好了,这是AllInAI.Sharp.API萌芽的起源。

于是我开发了这个SDK,包名:[AllInAI.Sharp.API](https://github.com/raokun/AllInAI.Sharp.API.Sample)。

AllInAI.Sharp.API一款调用各大平台语言模型的SDK,能帮助使用者快速对接各大模型。已整合OpenAI,chatGLM,文心千帆,同义千问,stable-diffusion 等 支持设置反向代理,支持流式接口 AllInAI SDK 在聊天和图片接口中整合统一的入参和出参。方便调用。

SDK已开源在nuget上,欢迎使用。

目前sdk使用.net7.如需其他版本支持请在项目中提issue。

2.已完成模型

  • OpenAI
  • chatGLM
  • 文心千帆
  • 同义千问
  • stable-diffusion

3.接口分类

目前分为两类

  • ChatService 聊天服务
  • ImgService 图片服务

4.使用范例

使用示例可参考示例项目:AllInAI.Sharp.API](https://github.com/raokun/AllInAI.Sharp.API.Sample

1.设置基础配置:

key -- 模型的秘钥key
BaseUrl -- 代理地址
AIType -- 模型类型,对应枚举Enums.AITypeEnum

2.调用接口

1.chat

AuthOption authOption = new AuthOption() { Key = "sk-***", BaseUrl = "https://api.openai.com", AIType = Enums.AITypeEnum.OpenAi };

ChatService chatService = new ChatService(authOption);
CompletionReq completionReq = new CompletionReq();
List<MessageDto> messages = new List<MessageDto>();
messages.Add(new MessageDto() { Role = "user", Content = "Hello!" });
completionReq.Model = "gpt-3.5-turbo";
completionReq.Messages = messages;
CompletionRes completionRes = await chatService.Completion(completionReq);

2.image

AuthOption authOption = new AuthOption() {BaseUrl = "http://43.134.164.127:77", AIType = Enums.AITypeEnum.SD };
ImgService imgService = new ImgService(authOption);
Txt2ImgReq imgReq = new Txt2ImgReq();
imgReq.Steps = 20;
imgReq.Size = "1024x1024";
imgReq.N = 1;
imgReq.Prompt = "kitty";
imgReq.ResponseFormat = "b64_json";
ImgRes imgRes = await imgService.Txt2Img(imgReq);

5.项目中的应用

AllInAI.Sharp.API 已在 TerraMours_Gpt 中广泛使用。TerraMours_Gpt 项目是一个多模型的AI应用和管理系统,支持多语言模型聊天、基于chatgpt和SD的多模型图片生成等功能。管理端实现数据看板、聊天记录管理,角色管理,图片记录管理、用户管理、系统配置等。

目前已支持配置api的模型:OpenAI,chatGLM,文心千帆,同义千问,stable-diffusion。

项目支持基于docker的快速部署搭建。个人搭建AI应用和管理系统只需一段docker-compose命令。

docker-compose命令

阅读如遇样式问题,请前往个人博客浏览: https://www.raokun.top

拥抱ChatGPT:https://first.terramours.site文章来源地址https://www.toymoban.com/news/detail-748511.html

到了这里,关于.net平台使用SDK快速对接各大语言模型的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 使用Python语言和TensorFlow Lite快速搭建AI模型

    作者:禅与计算机程序设计艺术 人工智能(Artificial Intelligence,AI)是指机器具有可以模仿或自己学习的能力,能够从经验中获取知识并解决问题。它可以自动分析、理解、交流及学习数据以提高决策力、洞察力以及创造力。近年来,基于深度学习(Deep Learning)技术的计算机

    2024年02月06日
    浏览(41)
  • 各大免费托管平台体验有感

    历时一年多,我也体验了不少的静态博客托管服务了,这里进行一下对比吧。主要列举一下优缺点,所有的内容基于该平台免费版,并且不添加任何增值服务的情况。 速度体验基于浙江电信的个人测试结果。 速度:尚可,并不很慢,但有时候会抽风。 自定义域名:一个。

    2024年02月07日
    浏览(61)
  • 百度智能云千帆大模型平台再升级,SDK版本开源发布!

    📫作者简介: 小明java问道之路 , 2022年度博客之星全国TOP3 ,专注于后端、中间件、计算机底层、架构设计演进与稳定性建设优化,文章内容兼具广度、深度、大厂技术方案,对待技术喜欢推理加验证,就职于知名金融公司后端高级工程师。          📫 热衷分享,喜欢原

    2024年02月05日
    浏览(50)
  • 虹科分享 | 谷歌Vertex AI平台使用Redis搭建大语言模型

    最近,谷歌宣布旗下Vertex人工智能平台最新支持了生成式人工智能,是什么支持语言模型实现与人类的语言交互呢?语言模型的大量知识储备从何而来呢? 应用程序生成、理解和使用人类语言的能力正变得越来越重要,从客服机器人到虚拟助手,再到内容生成,人们对AI应用

    2024年02月07日
    浏览(42)
  • 全面分析低代码平台:各大热门产品详细对比

    低代码平台彻底改变了企业构建和部署定制应用程序的方式。它们提供了一种用最少的代码,更快、更高效地开发软件的方法。使得公司在加快创新的同时节省了时间和资源。对于一些想进行数字化转型,选择低代码平台入门的中小企业来讲,应该选择哪个产品呢?在这篇文

    2024年02月05日
    浏览(46)
  • Dify开源大语言模型(LLM) 应用开发平台如何使用Docker部署与远程访问

    本文主要介绍如何在Linux Ubuntu系统以Docker的方式快速部署Dify,并结合cpolar内网穿透工具实现公网远程访问本地Dify! Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你

    2024年04月10日
    浏览(46)
  • ChatGLM Java SDK:智谱 AI 通用语言模型 Zhipu ChatGLM Java SDK

    此项目是由 Java 的 JDK11 的长期版本开发,设备环境需要 JDK = 11 Java Maven Dependency (BlueChatGLM)调用 Java Gradle (BlueChatGLM)调用 Java sbt (BlueChatGLM)调用 1.1 NTP 网络时间服务器 它通过互联网或局域网上的时间服务器来提供高精度,高安全的时间信息,确保所有设备都使用相同的时间是关

    2024年02月20日
    浏览(37)
  • 新手小白如何自学制作电子画册并分享各大平台

    一提到电子画册制作,相信很多人都开始头大了,毕竟对于新手小白来说还是比较难的,那么,新手小白要如何自学制作电子画册并快速分享出去呢,其实只需要一个在线电子画册制作平台FLBOOK就可以了 。 小白该怎样制作电子画册呢? 1.画册定位: 首先要确定画册的主题以

    2024年02月06日
    浏览(35)
  • 『SEQ日志』在 .NET中快速集成轻量级的分布式日志平台

    📣读完这篇文章里你能收获到 如何在Docker中部署 SEQ:介绍了如何创建和运行 SEQ 容器,给出了详细的执行操作 如何使用 NLog 接入 .NET Core 应用程序的日志:详细介绍了 NLog 和 NLog.Seq 来配置和记录日志的步骤 日志记录示例:博客提供了一个简单的日志记录示例,展示了如何在

    2024年02月11日
    浏览(66)
  • Java对接大华摄像头SDK

    大华SDK下载地址:https://support.dahuatech.com/tools/sdkExploit 开发操作系统:Windows10-64位 服务器操作系统:linux 64位 sdk版本:设备网络SDK_JAVA_Linux64_V3.055.0000000.1.R.221027 我下载的是JAVA-win64和JAVA_Linux64版本(如果是用linux开发可以只下载linux版本,因为我本地是Windows,运行时有些包需要

    2024年02月16日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包