随着大模型的不断发展，人们对其要求也在不断提高，过往的通用大模型已经不能满足需求，更需要的是针对某个领域特定的大模型。但是从头开始训练一个模型又会很麻烦，不过，微软给了我们一个思路，那就是graphrag。本篇文件将利用graphrag和ollama搭建一个本地的大模型数据库

因为我们是要在本地运行大模型，首先要选一个带有gpu的服务器（如果选用纯cpu的服务器，速度会很慢）。

我这里推荐的是腾讯云的，购买完成后，我们进入HAI的控制台

进入后点击新建

我们这里预设模板选择ollama，地区根据你自己的喜好购买（腾讯云这里提供了免费的学术加速，无需担心网络）

选好后我们点击立即购买即可

配置环境

购买完成后，我们点击算力链接，我们这里用的是cloud studio

想必hai服务器，更推荐cvm服务器，因为cvm在其他方面更灵活，有更多的配置进行选择，而且可以随时创建镜像，方便数据保存

这里，我们可以选择不同的服务器，同时最近腾讯云双十一也在举行拼团活动，可以活动更多的优惠时长，欢迎大家来看看

https://cloud.tencent.com/act/pro/double11-2024

以下操作和cvm服务器的Linux操作系统下操作一样

因为是预装了ollama。我们只需要检查一下ollama是否正常就行了

文本描述已自动生成

我们点击新建终端，开启一个新终端

我们输入ollama，看看是否能够正常输出内容

文本描述已自动生成

如果可以正常输出，就证明ollama配置没有问题

我们继续下载个新模型，直接输入

代码语言：txt

复制

因为自带学术加速，速度还是不错的

这样 ollama本地大模型我们就不用管了，接下来安装配置graphrag

1. 因为自带conda，我们使用虚拟环境就方便很多

代码语言：txt

复制

直接输入这条指令，我们就可以创建一个python3.12的环境，会方便很多

完成后，我们输入conda activate rag即可进入虚拟环境

随后我们输入

代码语言：txt

复制

他会自动安装原版的graphrag

完成后，我们在目前的文件夹创建一个ragtest文件夹

或者使用指令

代码语言：txt

复制

创建后，我们初始化这个索引文件

代码语言：txt

复制

完成后 将创建两个文件：.env和settings.yaml，其中，settings是设置文件，因为我们是本地对接ollama，所以要做一些修改

我们把替换文件替换过去（感谢哔哩哔哩up主@深圳大学城市空间信息提供的替换文件

网盘链接： https://pan.baidu.com/s/1li35HD80IulxJntWcI9DFw?pwd=s53j 提取码: s53j ）

文本描述已自动生成

我们打开graphrag的安装目录（部分可能有所差异）

文本描述已自动生成

我们依次按照目录替换文件

/root/miniforge3/envs/rag/lib/python3.12/site-packages/graphrag/query/llm/oai

. /root/miniforge3/envs/rag/lib/python3.12/site-packages/graphrag/llm/openai

图形用户界描述已自动生成

替换完成后，我们返回到原先的文件夹就可以了

我们往input文件夹放一个TXT文档，这个txt文档就是我们要构建数据库的文档

手机屏幕的截描述已自动生成

然后我们执行

代码语言：txt

复制

然后我们稍等即可

文本描述已自动生成

具体的速度快慢和最后成功好坏，取决于你本地的算力多少

这里也可以使用在线的大模型，不过需要是openai的格式，并且执行一次索引耗费的token较多，需要谨慎考虑

当最后提示🚀 All workflows completed successfully.，就表示我们建立成功了

文本描述已自动生成

此时我们就可以进行检索了

输入

代码语言：txt

复制

即可进行查询

文本描述已自动生成

因为不同安装方式有部分差异，请根据自己的安装方式进行调整

1.为什么我最后出来的结果是英文？

答：可能是因为你使用的提示词模板是英文提示词，本地llm模型在其影响下输出了英文数据

解决方法：更换中文提示词

提示词.zip

下载后替换到prompts文件夹接口

2.为什么无法正常索引

答：这个问题涉及到比较多，可能是配置文件部分地方修改问题，最容易出现问题的是api接口这里，我们要根据实际情况修改api接口，我们可以查看本机上ollama的服务器端口，来进行修改

另一方面，可能是llm模型的问题，我们可以通过修改model修改，我们可以通过输入ollama list指令来看本机上有哪些大模型

3.输出的缺少文件

答：这个大概率是api接口超时了，或者是达到阈值了，这个多出现在使用在线模型的时候，本地大模型很少出现，可以尝试更换模型重新跑的方式来解决

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “？”“”等问题热议不断。

事实上，

继等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 分享出来：包括等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。

• 内容：

  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
  • L1.4.1 知识大模型
  • L1.4.2 生产大模型
  • L1.4.3 模型工程方法论
  • L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

• 内容：

  • L2.1 API接口
  • L2.1.1 OpenAI API接口
  • L2.1.2 Python接口接入
  • L2.1.3 BOT工具类框架
  • L2.1.4 代码示例
  • L2.2 Prompt框架
  • L2.3 流水线工程
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

• 内容：

  • L3.1 Agent模型框架
  • L3.2 MetaGPT
  • L3.3 ChatGLM
  • L3.4 LLAMA
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

• 内容：

  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

这份 包括等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

    以上就是本篇文章【【ollama+GraphRAG】最低成本来搭建属于自己的大模型数据库！】的全部内容了，欢迎阅览 ！ 文章地址：http://w.yusign.com/quote/3925.html 
     行业      资讯      企业新闻      行情      企业黄页      同类资讯      网站地图      返回首页 述古往 http://w.yusign.com/mobile/ , 查看更多