把项目转换为md知识库,提供给gpts使用

这篇具有很好参考价值的文章主要介绍了把项目转换为md知识库,提供给gpts使用。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

把项目转换为md知识库,提供给gpts使用

import os

import chardet

project_path='' # 项目目录路径
project_name='' # 项目名称

# 定义全局字典,映射文件后缀名到Markdown代码块的语言
language_mapping = {
    '.java': 'java',
    '.py': 'python',
    '.js': 'javascript',
    '.html': 'html',
    '.md': 'markdown',
    '.properties': 'properties',
    '.xml': 'xml',
    '.vue': 'vue',
    '.tsx': 'tsx',
    '.yml': 'yaml',
    '.sql': 'sql',
    '.json': 'json',
    '.txt': 'text',
    '.csv': 'csv',
    '.ini': 'ini',
    '.c': 'c',
    '.cpp': 'cpp',
    '.go': 'go',
    '.php': 'php',
    '.rb': 'ruby',
}

def detect_encoding(file_path):
    """检测文件编码"""
    with open(file_path, 'rb') as file:
        raw_data = file.read()
    result = chardet.detect(raw_data)
    return result['encoding']

def write_file_content_to_utf8(file_path, output_file):
    """读取文件并以UTF-8编码写入到txt文件中"""
    # 获取文件后缀名
    _, ext = os.path.splitext(file_path)
    # 检查文件大小(20KB = 20480 字节)
    # if os.path.getsize(file_path) > 91136 and ext != '.md':
    if os.path.getsize(file_path) > 91136:
        print(f"忽略大文件:{file_path}")
        return

    encoding = detect_encoding(file_path)
    try:
        with open(file_path, 'r', encoding=encoding) as file:
            content = file.read()
        relative_path = os.path.relpath(file_path, project_path)  # 计算相对路径

        output_file.write(f"## 文件:{project_name}\\{relative_path}\n\n")  # Markdown标题

        if not ext == '.md':
            # 根据文件后缀名确定代码块的语言
            language = language_mapping.get(ext, 'text')  # 默认为'text'
            output_file.write(f"```{language}\n")  # 语法高亮

        output_file.write(content)
        if not ext == '.md':
            output_file.write("\n```\n\n")  # 结束代码块
        else:
            output_file.write("\n\n")  # 结束代码块
    except UnicodeDecodeError:
        print(f"读取失败(编码不支持):{file_path}")

def should_ignore(directory,ignored_directories):
    """检查是否应该忽略给定的目录"""
    for ignored_dir in ignored_directories:
        if ignored_dir in directory:
            return True
    return False

def process_directory(directory, output_file,ignored_directories):
    """递归处理目录下的所有文件和子目录"""
    if should_ignore(directory,ignored_directories):
        return  # 忽略整个目录

    for item in os.listdir(directory):
        path = os.path.join(directory, item)
        if os.path.isdir(path):
            process_directory(path, output_file,ignored_directories)
        elif any(path.endswith(suffix) for suffix in file_suffixes):
            print('path===============',path)
            write_file_content_to_utf8(path, output_file)

def create_knowledge_base(project_directory, output_path):
    """创建知识库文件"""
    with open(output_path, 'w', encoding='utf-8') as output_file:
        process_directory(project_directory, output_file,ignored_directories)

def create_knowledge_base(paths, output_path):
    """创建知识库文件"""
    global project_path,project_name
    with open(output_path, 'w', encoding='utf-8', errors='ignore') as output_file:
        for project_directory in paths:
            project_path=project_directory
            project_name = os.path.basename(project_path)  # 提取项目名称
            output_file.write(f"# 项目:{project_name}\n\n")  # Markdown标题
            process_directory(project_directory, output_file,ignored_directories)


if __name__ == '__main__':
    ignored_directories = ['target','.idea','node_modules','build','dist','out','logs','log','lib','js_sdk','uni_modules','nativeplugins','static','public']
    file_suffixes=['.java', '.properties', '.yml', '.md', '.txt','.js','.html','.vue','.xml','.json','.sql','.csv','.py',
                   '.tsx','.ts','.less','.scss','.gradle'
                   ]
    project_dirs = [
        'H:\\下载\edge浏览器下载\\spring-security-6.1.6',
    ]
    output_path = 'spring-security-6.1.6.md' # 知识库文件的输出路径
    create_knowledge_base(project_dirs, output_path)

detect_encoding(file_path): 检测并返回文件的编码类型。
write_file_content_to_utf8(file_path, output_file): 读取文件内容,根据文件扩展名决定是否加上 Markdown 代码块的格式,并写入到指定的输出文件中。
should_ignore(directory, ignored_directories): 判断给定的目录是否应该被忽略。
process_directory(directory, output_file, ignored_directories): 递归处理给定目录下的所有文件和子目录,转换为 Markdown 格式。
create_knowledge_base(paths, output_path): 遍历给定的项目目录列表,为每个项目创建 Markdown 格式的知识库文件。文章来源地址https://www.toymoban.com/news/detail-808808.html

到了这里,关于把项目转换为md知识库,提供给gpts使用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Wiki知识库项目-全流程笔记

    2.2.1修改springboot的版本号为           2.4.0 2.2.3将代码交给git进行管理 2-5修改日志样式 2.5.1将springboot项目打印日志样式进行修改。创建logback-spring.xml文件夹,文件与application.xml文件位置并列。 2.5.2修改启动项 错误请求 请求码,405-请求方法不对,get、post方式不对  将启动类

    2024年02月14日
    浏览(39)
  • [Unity+文心知识库]使用百度智能云搭建私有知识库,集成知识库API,打造具备知识库的AI二次元姐姐

            最近从百度智能云的官方技术支持那边了解到,目前百度千帆大模型平台提供有在线的知识库功能,能够在线上传自己的私人知识库文档,并且配置文心一言模型作为文本生成的引擎,构建自己的私有知识库。之前自己搭建知识库都是用的langchain框架,在本地部署使

    2024年02月04日
    浏览(49)
  • 【LangChain学习】基于PDF文档构建问答知识库(二)创建项目

    这里我们使用到 fastapi 作为项目的web框架,它是一个快速(高性能)的 web 框架,上手简单。 我们在IDE中,左侧选择 FastAPI ,右侧选择创建一个新的虚拟环境。  创建成功,会有一个main.py,这是项目的入口文件。  我们运行一下看看有没有报错,没问题的话,那么我们整合

    2024年02月13日
    浏览(64)
  • 使用Docker部署wikitten个人知识库

    Wikitten是一款开源Wiki知识管理系统,使用PHP开发,支持Markdown语法,无需数据库,自动生成树形目录,适合用来做个人Wiki知识库。 Wikitten 是一个小巧、快速的 PHP wiki。 Wikitten是存储您的笔记、代码片段、想法等的完美场所。 Wikitten是一款开源Wiki知识管理系统。 支持Markdown语

    2024年02月14日
    浏览(38)
  • 使用 FastGPT 构建高质量 AI 知识库

    作者:余金隆。FastGPT 项目作者,Sealos 项目前端负责人,前 Shopee 前端开发工程师 FastGPT 项目地址: https://github.com/labring/FastGPT/ 自从去年 12 月 ChatGPT 发布以来,带动了一轮新的交互应用革命。尤其在 GPT-3.5 接口全面开放后,大量的 LLM 应用如雨后春笋般涌现。然而,由于 GP

    2024年02月14日
    浏览(49)
  • 使用Langchain与ChatGLM实现本地知识库(二)

      大语言模型也只是将用户提供的大规模数据集训练而来,也并非万能的什么都知道,特别是一些小众知识、内部数据或私密的个人数据等,此时ChatGLM3肯定会胡乱回答就是ChatGPT4也不一定能给出满意回答;不少公司、个人都有自己的知识库或日志等此时如有可将这些数据以

    2024年02月05日
    浏览(55)
  • 使用LangChain与ChatGLM实现本地知识库(一)

      本篇主要内容为介绍ChatGLM3的安装使用,后续才会涉及到使用LangChain实现本地知识库的内容;   ChatGLM为智谱与清华大学开源的一个大语言模型,支持多轮对话、内容创作等,ChatGLM3-6B为ChatGLM3系列中门槛相对较低的一个,本地部署提供兼容OpenAI的API;   LangChain用于快

    2024年02月05日
    浏览(45)
  • 使用chatglm搭建本地知识库AI_闻达

    最近大火的chatgpt,老板说让我看看能不能用自己的数据,回答专业一些,所以做了一些调研,最近用这个倒是成功推理了自己的数据,模型也开源了,之后有机会也训练一下自己的数据。 1.1双击打开anconda prompt创建虚拟环境 1.2下载pytorch(这里要根据自己的电脑版本下载)都

    2024年02月10日
    浏览(52)
  • 开源知识库平台Raneto--使用Docker部署Raneto

    1.1 Raneto简介 Raneto是一个免费、开放、简单的 Markdown 支持的 Node.js 知识库。 1.2 知识库介绍 知识库 知识库是指存储和组织知识的系统或库,它包括了各种类型的信息和知识,如文本、图像、音频、视频等。知识库可以用于存储和检索知识,帮助人们获取特定领域的知识和解决

    2024年04月12日
    浏览(42)
  • 使用 ElasticSearch 作为知识库,存储向量及相似性搜索

    在当今大数据时代,快速有效地搜索和分析海量数据成为了许多企业和组织的重要需求。 Elasticsearch 作为一款功能强大的分布式搜索和分析引擎,为我们提供了一种优秀的解决方案。除了传统的文本搜索, Elasticsearch 还引入了向量存储的概念,以实现更精确、更高效的相似性

    2024年02月10日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包