RAG

2024/9/28 2:16:12
预训练模型语义相似性计算(十一) - M3E和BGE

预训练模型语义相似性计算(十一) - M3E和BGE

M3E m3e由MokaAI 训练，开源和评测。 m3e的详细介绍可以看官方的github介绍。本文简要摘录其中一些点，以便后续的应用。 1.千万级 (2200w) 的中文句对数据(开源)。 2.支持同质相似句计算(s2s)和异质检索(s2p)，后续支持代码检索。 3.m3e基座模…
阅读更多...
【语言模型】快速了解大模型中的13个重要概念

【语言模型】快速了解大模型中的13个重要概念

快速了解大模型中的13个重要概念 1. 自回归语言模型2. 自编码语言模型3. 排列语言模型4. CLIP5. DreamBooth6. LoRA7. 图像超分辨率8. TimeGrad9.Diffusion-LM10.多模态11.向量数据库12.检索增强生成（RAG）13. AI for Science13.1 SMCDiff13.2 CDVAE 预训…
阅读更多...
离大模型落地应用最近的工程化技术(RAG)

离大模型落地应用最近的工程化技术(RAG)

虽然大规模语言模型（LLM）在自然语言处理（NLP）方面表现出了其强大的文本生成和理解能力，但是它们在实际应用中仍然面临一些挑战，如处理大规模知识库和实时获取最新信息的能力，并且会产生幻觉。为…
阅读更多...
用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程

用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程

近年来，大型语言模型（LLM）取得了显著的进步，然而大模型缺点之一是幻觉问题，即“一本正经的胡说八道”。其中RAG（Retrieval Augmented Generation，检索增强生成）是解决幻觉比较有效的…
阅读更多...
百度智能云发布专用向量数据库 VDB 1.0，全新设计内核开启性能狂飙

百度智能云发布专用向量数据库 VDB 1.0，全新设计内核开启性能狂飙

1 专用向量数据库应对未来业务挑战 向量数据库 向量检索 数据库 向量数据库大致可以分为 2 部分：向量数据的检索，以及向量数据的存储和管理。 向量数据库的性能，比如高 QPS、低延时等，使得业务能够更快的响应用户的查询请求…
阅读更多...
『大模型笔记』提示工程、微调和RAG之间对比

『大模型笔记』提示工程、微调和RAG之间对比

提示工程、微调和RAG之间对比 文章目录 一. 提示工程、微调和RAG之间对比二. 参考文章文章：Prompt Engineering vs Finetuning vs RAG一. 提示工程、微调和RAG之间对比 Prompt EngineeringFinetuning
阅读更多...
GPT实战系列-大模型为我所用之借用ChatGLM3构建查询助手

GPT实战系列-大模型为我所用之借用ChatGLM3构建查询助手

GPT实战系列-https://blog.csdn.net/alex_starsky/category_12467518.html 如何使用大模型查询助手功能？例如调用工具实现网络查询助手功能。目前只有 ChatGLM3-6B 模型支持工具调用，而 ChatGLM3-6B-Base 和 ChatGLM3-6B-32K 模型不支持。 定义好工具的…
阅读更多...
FastGPT 知识库搜索测试功能解析

FastGPT 知识库搜索测试功能解析

目录 一、代码解析 1.1 searchTest.ts 1.2 controller.ts 本文接上一篇文章FastGPT 知识库搜索测试功能解析 对具体代码进行解析。 一、代码解析 FastGPT 知识库的搜索测试功能主要涉及两个文件，分别是 searchTest.ts 和 controller.ts 文件，下面分…
阅读更多...
[论文笔记]RAPTOR: RECURSIVE ABSTRACTIVE PROCESSING FOR TREE-ORGANIZED RETRIEVAL

[论文笔记]RAPTOR: RECURSIVE ABSTRACTIVE PROCESSING FOR TREE-ORGANIZED RETRIEVAL

引言 今天带来又一篇RAG论文笔记：RAPTOR: RECURSIVE ABSTRACTIVE PROCESSING FOR TREE-ORGANIZED RETRIEVAL。 检索增强语言模型能够更好地适应世界状态的变化并融入长尾知识。然而，大多数现有方法只能从检索语料库中检索到短的连续文本片段&#xff0…
阅读更多...
【LLM大模型】探索大模型能力--prompt提示词工程

【LLM大模型】探索大模型能力--prompt提示词工程

1 prompt工程是什么 1.1 什么是Prompt？ LLM大语言模型终究也只是一个工具，我们不可能每个人都去训一个大模型，但是我们可以思考如何利用好大模型，让他提升我们的工作效率。就像计算器工具一样，要你算10的10倍&#x…
阅读更多...
【LLM大模型】机器学习导论（西瓜书）[推荐阅读]

【LLM大模型】机器学习导论（西瓜书）[推荐阅读]

哈喽啊大家&#xff0c;今天又来给大家推荐一本机器学习方面的书籍<机器学习西瓜书>。本书作为该领域的入门教材&#xff0c;在内容上尽可能涵盖机器学习基础知识的各方面。 为了使尽可能多的读者通过本书对机器学习有所了解&#xff0c;作者试图尽可能少地使用数学知识…
阅读更多...
LLM之基于llama-index部署本地embedding与GLM-4模型并初步搭建RAG（其他大模型也可，附上ollma方式运行）

LLM之基于llama-index部署本地embedding与GLM-4模型并初步搭建RAG（其他大模型也可，附上ollma方式运行）

前言 日常没空&#xff0c;留着以后写 llama-index简介 官网&#xff1a;https://docs.llamaindex.ai/en/stable/ 简介也没空&#xff0c;以后再写 注&#xff1a;先说明&#xff0c;随着官方的变动&#xff0c;代码也可能变动&#xff0c;大家运行不起来&#xff0c;可以进…
阅读更多...
下一代 RAG 技术来了！微软正式开源 GraphRAG

下一代 RAG 技术来了！微软正式开源 GraphRAG

省流总结 优点&#xff1a;检索准确度高 缺点&#xff1a;单个19w字构建用时4分30s、gpt4 token花费12美元 概述 7 月 2 日&#xff0c;微软开源了 GraphRAG&#xff0c;一种基于图的检索增强生成 (RAG) 方法&#xff0c;可以对私有或以前未见过的数据集进行问答。在 GitHub…
阅读更多...
AI大模型低成本快速定制秘诀：RAG和向量数据库

AI大模型低成本快速定制秘诀：RAG和向量数据库

文章目录 1. 前言2. RAG和向量数据库3. 论坛日程4. 购票方式 1. 前言 当今人工智能领域&#xff0c;最受关注的毋庸置疑是大模型。然而&#xff0c;高昂的训练成本、漫长的训练时间等都成为了制约大多数企业入局大模型的关键瓶颈。 这种背景下&#xff0c;向量数据库凭借其独特…
阅读更多...
Advanced RAG 02：揭开 PDF 文档解析的神秘面纱

Advanced RAG 02：揭开 PDF 文档解析的神秘面纱

编者按&#xff1a; 自 2023 年以来&#xff0c;RAG 已成为基于 LLM 的人工智能系统中应用最为广泛的架构之一。由于诸多产品的关键功能&#xff08;如&#xff1a;领域智能问答、知识库构建等&#xff09;严重依赖RAG&#xff0c;优化其性能、提高检索效率和准确性迫在眉睫&am…
阅读更多...
2024山软创新实训：软件系统架构

2024山软创新实训：软件系统架构

软件架构 本文着重介绍本应用&#xff1a;基于开源LLM的易学大模型软件系统的架构。在经过2个月的探索、选型、实验、开发后&#xff0c;我们团队终于把整个系统的各块拼图搭建了起来&#xff0c;现在剩下的是集成、评测、优化和部署的工作。 1. Distributed System 整个项目…
阅读更多...
用通俗易懂的方式讲解：大模型向量数据库那么多，我该如何选择？

用通俗易懂的方式讲解：大模型向量数据库那么多，我该如何选择？

在一个语义搜索和检索增强生成&#xff08;RAG&#xff09;正在重新定义的时代&#xff0c;支持这些进步的支柱往往被忽视&#xff1a;向量数据库。如果您涉足大型语言模型、RAG或任何利用语义搜索的平台&#xff0c;那么你来对地方了。 对于那些在这一领域探索的人&#xff0…
阅读更多...
one-api 架构解析（二）

one-api 架构解析（二）

目录 一、获取智普AI API key 二、one-api 创建渠道和配置 Token 2.1 创建渠道 2.2 配置 Token 三、访问智普AI模型 二、one-api 处理流程 2.1 URL绑定处理函数 2.2 处理流程 one-api 关于模型的访问主要分为两种，一种是符合 OpenAI API 规则，另一种是不符合 OpenAI …
阅读更多...
RAG 评估框架 -- RAGAS

RAG 评估框架 -- RAGAS

原文 引入 RAG&#xff08;Retrieval Augmented Generation&#xff09;的原因 随着ChatGPT的推出&#xff0c;很多人都理所当然直接用LLM当作知识库回答问题。这种想法有两个明显的缺点&#xff1a; LLM无法得知在训练之后所发生的事情&#xff0c;因此无法回答相关的问题存…
阅读更多...
一文彻底搞懂Fine-tuning - 预训练和微调（Pre-training vs Fine-tuning）

一文彻底搞懂Fine-tuning - 预训练和微调（Pre-training vs Fine-tuning）

最近这一两周看到不少互联网公司都已经开始秋招提前批了。不同以往的是&#xff0c;当前职场环境已不再是那个双向奔赴时代了。求职者在变多&#xff0c;HC 在变少&#xff0c;岗位要求还更高了。 最近&#xff0c;我们又陆续整理了很多大厂的面试题&#xff0c;帮助一些球友解…
阅读更多...
大模型学习之书生·浦语大模型3——基于InternLM和LangChain搭建知识库

大模型学习之书生·浦语大模型3——基于InternLM和LangChain搭建知识库

基于InternLM和LangChain搭建知识库 1 大模型开发范式 LLM的局限性 知识受限&#xff1a;最新知识无法实时获取专业能力有限&#xff1a;有广度无深度定制化成本高&#xff1a;训练成本高 RAG VS Finetune RAG&#xff1a; 无需重新训练组织外挂加入知识容易受基座模型的影响…
阅读更多...
RAG系统进阶（五）文本分割优化技巧及代码

RAG系统进阶（五）文本分割优化技巧及代码

背景 前边在介绍RAG系统时提到了文本分割&#xff08;或分段&#xff09;的作用和重要性。也提到了分段后所带来的一些问题&#xff0c;比如由于分段导致检索出来的TOP-n的结果可能未包含完整的答案。 粒度太大可能导致检索不精准&#xff0c;粒度太小可能导致信息不全面问题的…
阅读更多...
AI架构系列：去其形而留其意

AI架构系列：去其形而留其意

这个专栏主要关注围绕着AI运用于实际的业务场景所需的系统架构设计。整体基于云原生技术&#xff0c;结合开源领域的LLMOps或者MLOps技术&#xff0c;充分运用低代码构建高性能、高效率和敏捷响应的AI中台。该专栏需要具备一定的计算机基础。 最近很多的咨询都在问我相同的问题…
阅读更多...
【LLM之RAG】GraphRAG论文阅读笔记

【LLM之RAG】GraphRAG论文阅读笔记

研究背景 本文探讨了大型语言模型&#xff08;LLM&#xff09;如何通过从外部知识源检索相关信息来回答关于私有或之前未见过的文档集合的问题。特别指出&#xff0c;传统的检索增强生成&#xff08;RAG&#xff09;系统在处理全局问题时存在局限性&#xff0c;例如问整个文本…
阅读更多...
高维数据检索：IVFFlat 算法

高维数据检索：IVFFlat 算法

文章目录 IVFFlat 的原理解说倒排索引构建Flat Quantization数学模型与实现细节 IVFFlat 模拟实现数据预处理索引构建模拟代码查询过程性能评估 优化策略半精度浮点数存储量化技术的扩展并行处理与 GPU 加速 IVFFlat 的实际应用图像检索语音识别与自然语言处理图像与视频检索推…
阅读更多...
LlamaIndex-milvus-RAG

LlamaIndex-milvus-RAG

基于llamaindex 以及 milvus向量库的RAG 相关依赖包安装 pip install llama-index milvus numpy pandas pip install llama-index-vector-stores-milvus pip install llama-index pip install pymilvus>2.4.2 pip install milvus-lite pip install llama-index-core pip i…
阅读更多...
使用本地大模型从论文PDF中提取结构化信息

使用本地大模型从论文PDF中提取结构化信息

1 安装ollama 点击前往网站 https://ollama.com/ &#xff0c;下载ollama软件&#xff0c;支持win、Mac、linux 2 下载LLM ollama软件目前支持多种大模型&#xff0c; 如阿里的&#xff08;qwen、qwen2&#xff09;、meta的(llama3、llama3.1)&#xff0c; 读者根据自己电脑…
阅读更多...
GraphRAG如何使用ollama提供的llm model 和Embedding model服务构建本地知识库

GraphRAG如何使用ollama提供的llm model 和Embedding model服务构建本地知识库

使用GraphRAG踩坑无数 在GraphRAG的使用过程中将需要踩的坑都踩了一遍&#xff08;不得不吐槽下&#xff0c;官方代码有很多遗留问题&#xff0c;他们自己也承认工作重心在算法的优化而不是各种模型和框架的兼容性适配性上&#xff09;&#xff0c;经过了大量的查阅各种资料以…
阅读更多...
FastGPT部署和接入使用重排模型bce-reranker-base

FastGPT部署和接入使用重排模型bce-reranker-base

bce-reranker简介 bce-reranker 是一种专门用于信息检索和自然语言处理领域中的重排序（reranking）模型。这种模型由北京智源人工智能研究院（BAAI）开发，是 BGE（BAAI General Embedding）系列的一部分。BGE 系列模型专注于提供通用的嵌入表示，而 bce-reranker 则更进一步…
阅读更多...
基于RAG的大模型知识库搭建

基于RAG的大模型知识库搭建

什么是RAG RAG(Retrieval Augmented Generation)&#xff0c;即检索增强生成技术。 RAG优势 部分解决了幻觉问题。由于我们可以控制检索内容的可靠性&#xff0c;也算是部分解决了幻觉问题。可以更实时。同理&#xff0c;可以控制输入给大模型上下文内容的时效性&#xff0c…
阅读更多...
RAG实践：ES混合搜索BM25+kNN(cosine)

RAG实践：ES混合搜索BM25+kNN(cosine)

1 缘起 最近在研究与应用混合搜索&#xff0c; 存储介质为ES&#xff0c;ES作为大佬牌数据库&#xff0c; 非常友好地支持关键词检索和向量检索&#xff0c; 当然&#xff0c;支持混合检索&#xff08;关键词检索向量检索&#xff09;&#xff0c; 是提升LLM响应质量RAG(Retri…
阅读更多...
LLM 大模型文档语义分块、微调数据集生成

LLM 大模型文档语义分块、微调数据集生成

1、LLM 大模型文档语义分块 参考： https://blog.csdn.net/m0_59596990/article/details/140280541 根据上下句的语义相关性，相关就组合成一个分块，不相关就当场两个快 语义模型用的bert-base-chinese： https://huggingface.co/google-bert/bert-base-chinese 代码： 对…
阅读更多...
【大模型实战篇】搭建本地的隐私计算知识问答系统“密答”

【大模型实战篇】搭建本地的隐私计算知识问答系统“密答”

1. 背景介绍 在之前分享的文章《基于开源大模型的问答系统本地部署实战教程》中&#xff0c;我们介绍了基于ollama实现本地问答系统的部署和使用。本文将基于ollama进一步实现本地垂直领域的问答系统搭建。ollama作为大模型的运行框架&#xff0c;可以提供大模型的使用接口…
阅读更多...
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）

基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）

基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型） 基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目。 1.介绍 一种利用 langchain思想实现的基于本地知…
阅读更多...
评估 RAG？只要大模型框架 LlamaIndex 就足够了

评估 RAG？只要大模型框架 LlamaIndex 就足够了

节前&#xff0c;我们组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂朋友、今年参加社招和校招面试的同学。 针对大模型技术趋势、算法项目落地经验分享、新手如何入门算法岗、该如何准备面试攻略、面试常考点等热门话题进行了深入的讨论。 总结链接如…
阅读更多...
LLM应用：Prompt flow vs LangChain

LLM应用：Prompt flow vs LangChain

背景 Prompt flow和LangChain都是LLM时代&#xff0c;为高效地构建LLM应用而生。 Prompt flow是Microsoft开源的&#xff0c;其诞生时&#xff0c;LangChain已经很有名气了。 所以作为后生的Prompt flow会为我们带来哪些新的东西呢&#xff1f; ​​​​​​​ Prompt flo…
阅读更多...
检索增强生成（RAG）：智能内容生成的新纪元

检索增强生成（RAG）：智能内容生成的新纪元

引言 在大 AI 时代&#xff0c;生成式人工智能&#xff08;GenAI&#xff09;模型&#xff0c;尤其是大型语言模型&#xff08;LLM&#xff09;&#xff0c;已经展现出了令人瞩目的能力。然而&#xff0c;这些模型在提供信息的准确、即时、专业、权威等方面仍存在局限。检索增…
阅读更多...
rag笔记（一）：技术介绍与实践

rag笔记（一）：技术介绍与实践

:::info &#x1f4a1; 在自然语言处理领域&#xff0c;大型语言模型&#xff08;LLM&#xff09;如GPT-3、BERT等已经取得了显著的进展&#xff0c;它们能够生 成连贯、自然的文本&#xff0c;回答问题&#xff0c;并执行其他复杂的语言任务。然而&#xff0c;这些模型存在一些…
阅读更多...
7月Langchain-Chatchat 0.3.1最新 win系统-安装教程，踩坑2小时，5分钟拿去！

7月Langchain-Chatchat 0.3.1最新 win系统-安装教程，踩坑2小时，5分钟拿去！

Win11安装 langchain-chatchat 0.3.1最新版 1. 虚拟环境安装和python包安装 conda create -n chat310 python3.10#这里很重要 需要先安装cuda版本的torch pip install torch2.3.1 torchvision0.18.1 torchaudio2.3.1 --index-url https://download.pytorch.org/whl/cu121pip…
阅读更多...
量化方法怎么选？如何评估量化后的大模型LLM？

量化方法怎么选？如何评估量化后的大模型LLM？

文章内容总结自&#xff1a;Evaluating Quantized Large Language Models&#xff08;https://arxiv.org/abs/2402.18158&#xff09; 如果想深入了解量化的基本概念和如何用代码实现请参考&#xff1a; Michael&#xff1a;用python代码深入浅出量化概念 &#xff08;https…
阅读更多...
Langchain核心模块与实战[9]：RAG检索增强生成[文本向量化、实战ChatDoc智能文档助手]

Langchain核心模块与实战[9]：RAG检索增强生成[文本向量化、实战ChatDoc智能文档助手]

Langchain核心模块与实战[9]：RAG检索增强生成[文本向量化、实战ChatDoc智能文档助手] 参考文章可以使用国产LLM进行下述项目复现： 初识langchain[1]：Langchain实战教学，利用qwen2.1与GLM-4大模型构建智能解决方案[含Agent、tavily面向AI搜索]langchain[2]：Langchain实战教…
阅读更多...
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十一）

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十一）

基于 LlaMA 3 LangGraph 在windows本地部署大模型 &#xff08;十一&#xff09; LlaMA 3 系列博客 基于 LlaMA 3 LangGraph 在windows本地部署大模型 &#xff08;一&#xff09; 基于 LlaMA 3 LangGraph 在windows本地部署大模型 &#xff08;二&#xff09; 基于 Lla…
阅读更多...
高级RAG检索中的五种查询重写策略_用于检索增强的大型语言模型的查询重写

高级RAG检索中的五种查询重写策略_用于检索增强的大型语言模型的查询重写

一、前言 检索增强生成 (RAG) 作为人工智能 (AI) 领域的一项重要技术&#xff0c;近年来得到了飞速发展。它将基于检索模型和基于生成的模型相结合&#xff0c;利用海量外部数据&#xff0c;生成更具信息量、更准确、更具语境相关性的回复。检索策略是 RAG 系统的关键组成部分…
阅读更多...
基于Neo4j将知识图谱用于检索增强生成：Knowledge Graphs for RAG

基于Neo4j将知识图谱用于检索增强生成：Knowledge Graphs for RAG

Knowledge Graphs for RAG 本文是学习https://www.deeplearning.ai/short-courses/knowledge-graphs-rag/这门课的学习笔记。 What you’ll learn in this course Knowledge graphs are used in development to structure complex data relationships, drive intelligent sea…
阅读更多...
FastGPT 知识库搜索测试功能解析（一）

FastGPT 知识库搜索测试功能解析（一）

本文以 FastGPT 知识库的搜索测试功能为入口，分析 FastGPT 的知识检索流程。 一、搜索功能介绍 1.1 整体介绍 搜索测试功能包含三种类型：语义检索、全文检索、混合检索。 语义检索：使用向量进行文本相关性查询，即调用向量数据库根据向量的相似性检索； 全文检索：使用…
阅读更多...
GraphRAG：一种新型的RAG技术

GraphRAG：一种新型的RAG技术

微软前几天发布的 GraphRAG 架构非常厉害&#xff0c;但是具体的原理和内容可能不太好理解。Neo4j 的 CTO 写了一篇详细的文章《GraphRAG 宣言&#xff1a;为 GenAI 增加知识》&#xff0c;通俗易懂的介绍了 GraphRAG 的原理、与传统 RAG 的区别、GraphRAG的优势、知识图谱的创…
阅读更多...
FastGPT 知识库搜索测试功能解析（二）

FastGPT 知识库搜索测试功能解析（二）

目录 一、代码解析 1.1 searchTest.ts 1.2 controller.ts 本文接上一篇文章FastGPT 知识库搜索测试功能解析 对具体代码进行解析。 一、代码解析 FastGPT 知识库的搜索测试功能主要涉及两个文件，分别是 searchTest.ts 和 controller.ts 文件，下面分别进行介绍。 1.1 se…
阅读更多...
【LLM】Advanced rag techniques: an illustrated overview

【LLM】Advanced rag techniques: an illustrated overview

note 文章目录 noteAdvanced rag techniques: an illustrated overview基础RAG高级RAG分块和向量化(Chunking & Vectorisation)搜索索引(Search Index)1. 向量存储索引&#xff08;Vector Store Index&#xff09;2. 多层索引(Hierarchical Indices)3. 假设问题和HyDE(Hypo…
阅读更多...
小米 AIGC 大模型实习面试题4道|含解析

小米 AIGC 大模型实习面试题4道|含解析

节前&#xff0c;我们组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂同学、参加社招和校招面试的同学&#xff0c;针对大模型技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何备战、面试常考点分享等热门话题进行了深入的讨论。 合集在这…
阅读更多...
BM42：混合搜索的新基准 - Qdrant

BM42：混合搜索的新基准 - Qdrant

在过去的 40 年里&#xff0c;BM25 一直是搜索引擎的标准。它是一种简单但功能强大的算法&#xff0c;已被许多搜索引擎使用&#xff0c;包括 Google、Bing 和 Yahoo。 虽然看起来向量搜索的出现会削弱其影响力&#xff0c;但效果并不明显。目前最先进的检索方法试图将 BM25 与…
阅读更多...
llamaindex+Internlm2 RAG实践 #书生谱语大模型实战营#

llamaindex+Internlm2 RAG实践 #书生谱语大模型实战营#

1.打卡任务&#xff1a; 本次的打卡任务是llamaindexInternlm2 RAG实践&#xff0c;我们需要基于 LlamaIndex 构建自己的 RAG 知识库&#xff0c;寻找一个问题 A 在使用 LlamaIndex 之前InternLM2-Chat-1.8B模型不会回答&#xff0c;借助 LlamaIndex 后 InternLM2-Chat-1.8B 模…
阅读更多...
[论文笔记]构建基于RAG聊天机器人的要素

[论文笔记]构建基于RAG聊天机器人的要素

引言 今天带来一篇构建RAG的论文笔记&#xff1a;FACTS About Building Retrieval Augmented Generation-based Chatbots。 基于生成式人工智能构建企业聊天机器人迅速成为行业中最受关注的应用之一&#xff0c;旨在提高员工生产力。 然而&#xff0c;构建成功的企业聊天机器…
阅读更多...
知识图谱与LLMs：实时图分析（通过其关系的上下文理解数据点）

知识图谱与LLMs：实时图分析（通过其关系的上下文理解数据点）

大型语言模型 (LLM) 极大地改变了普通人获取数据的方式。不到一年前&#xff0c;访问公司数据需要具备技术技能&#xff0c;包括熟练掌握各种仪表板工具&#xff0c;甚至深入研究数据库查询语言的复杂性。然而&#xff0c;随着 ChatGPT 等 LLM 的兴起&#xff0c;随着所谓的检索…
阅读更多...
Llama（二）：Open WebUI作为前端界面，使用本机的llama3

Llama（二）：Open WebUI作为前端界面，使用本机的llama3

目录 背景 Open WebUI是什么 工程能力特性 产品功能特性 用户体验特性 Open WebUI安装并使用 背景 Mac M1芯片&#xff0c;16G 内存 llama3 8B的部署参考Llama&#xff08;一&#xff09;&#xff1a;Mac M1芯片运行Llama3-CSDN博客在Mac M1 16G内存环境中&#xff0c;…
阅读更多...
240901-基于Ollama的22行代码实现极简交互式RAG问答

240901-基于Ollama的22行代码实现极简交互式RAG问答

A. 最终效果 B. 环境配置 pip install llama-index-embeddings-ollama pip install llama-index-llms-ollama pip install llama-indexC. 代码程序 from llama_index.core import VectorStoreIndex, Document, SimpleDirectoryReader,Settings from llama_index.llms.ollama …
阅读更多...
发布中文文档类资源仓库-ChineseDocumentPDF

发布中文文档类资源仓库-ChineseDocumentPDF

引言 今天中午&#xff0c;排队打饭间隙&#xff0c;刷到新闻&#xff0c;说是&#xff1a;360AILAB-NLP团队开源了中文论文、研报文档场景的轻量化版式分析模型360LayoutAnalysis。 面向中文论文及研报两个场景的轻量化版式分析模型已经开源&#xff1a; Github地址&#x…
阅读更多...
大模型微调和RAG的应用场景

大模型微调和RAG的应用场景

大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…
阅读更多...
通俗易懂理解提示词工程、RAG和微调

通俗易懂理解提示词工程、RAG和微调

在当今的人工智能领域&#xff0c;提示工程、RAG&#xff08;检索增强生成&#xff09;和微调是三个重要的概念。本文将通过简单易懂的方式&#xff0c;帮助大家理解这三者之间的关系和应用。 大模型的训练过程 &#x1f4ca; 在当今的人工智能领域&#xff0c;大模型的训练是…
阅读更多...
RAG PAPTOR 示例代码理解笔记

RAG PAPTOR 示例代码理解笔记

RAG PAPTOR 示例代码理解笔记 0. 源代码文件1. 部分代码理解笔记故事背景导入工具固定种子&#xff08;随机种子&#xff09;全局降维函数局部降维函数获取最佳聚类数函数GMM聚类函数执行聚类函数嵌入函数嵌入并聚类文本函数格式化文本函数嵌入、聚类并总结文本函数递归嵌入、聚…
阅读更多...
【LLM之RAG】RAFT论文阅读笔记

【LLM之RAG】RAFT论文阅读笔记

研究背景 论文针对的主要问题是如何将预训练的大型语言模型&#xff08;LLMs&#xff09;适应特定领域的检索增强生成&#xff08;RAG&#xff09;。这些模型通常在广泛的文本数据上进行预训练&#xff0c;已经表现出在广义知识推理任务上的优越性能。然而&#xff0c;在特定领…
阅读更多...
在亚马逊云科技上提取视频内容并利用AI大模型开发视频内容问答服务

在亚马逊云科技上提取视频内容并利用AI大模型开发视频内容问答服务

项目简介&#xff1a; 小李哥将继续每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案&#xff0c;帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWS AI最佳实践&#xff0c;并应用到自己的日常工作里。 本次介绍的是如何在亚马逊云科技上利用音视…
阅读更多...
Cohere reranker 一致的排序器

Cohere reranker 一致的排序器

这本notebook展示了如何在检索器中使用 Cohere 的重排端点。这是在 ContextualCompressionRetriever 的想法基础上构建的。 %pip install --upgrade --quiet cohere %pip install --upgrade --quiet faiss# OR (depending on Python version)%pip install --upgrade --quiet…
阅读更多...
从数据洞察到智能决策：合合信息infiniflow RAG技术的实战案例分享

从数据洞察到智能决策：合合信息infiniflow RAG技术的实战案例分享

从数据洞察到智能决策：合合信息&infiniflow RAG技术的实战案例分享 标题取自 LLamaIndex，这个内容最早提出于今年 2 月份 LlamaIndex 官方博客。从 22 年 chatGpt 爆火，23 年大模型尝鲜，到 24 年真正用 AI 落地业务场景，业界普遍都发现了从 MVP 到 PMF 不是那么容易的…
阅读更多...
潘多拉的盒子还是阿拉丁的神灯：揭示RAG噪声在大语言模型中的作用

潘多拉的盒子还是阿拉丁的神灯：揭示RAG噪声在大语言模型中的作用

一、结论写在前面 论文来自清华大学、北京国家信息科学与技术研究中心 论文标题&#xff1a;Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAG Noise in Large Language Models 论文链接&#xff1a;https://arxiv.org/pdf/2408.135…
阅读更多...
【RAG实践】基于LlamaIndex和Qwen1.5搭建基于本地知识库的问答机器人

【RAG实践】基于LlamaIndex和Qwen1.5搭建基于本地知识库的问答机器人

什么是RAG LLM会产生误导性的 “幻觉”&#xff0c;依赖的信息可能过时&#xff0c;处理特定知识时效率不高&#xff0c;缺乏专业领域的深度洞察&#xff0c;同时在推理能力上也有所欠缺。 正是在这样的背景下&#xff0c;检索增强生成技术&#xff08;Retrieval-Augmented G…
阅读更多...
【开发视角】大模型 RAG 检索增强生成究竟是什么

【开发视角】大模型 RAG 检索增强生成究竟是什么

【大白话讲懂】大模型 RAG 检索增强生成 话先说在前面&#xff0c;本文不讲不会讲太多原理&#xff0c;仅面向工程开发&#xff0c;从工作流程的宏观角度进行梳理&#xff0c;旨在快速上手。 RAG 是什么 基本定义 让我们先来解释名词&#xff0c;看看宏观框架。 RAG 的意思…
阅读更多...
【开发视角】大模型 RAG 检索增强生成究竟是什么

【开发视角】大模型 RAG 检索增强生成究竟是什么

【大白话讲懂】大模型 RAG 检索增强生成 话先说在前面&#xff0c;本文不讲不会讲太多原理&#xff0c;仅面向工程开发&#xff0c;从工作流程的宏观角度进行梳理&#xff0c;旨在快速上手。 RAG 是什么 基本定义 让我们先来解释名词&#xff0c;看看宏观框架。 RAG 的意思…
阅读更多...
使用CLIP和LLM构建多模态RAG系统

使用CLIP和LLM构建多模态RAG系统

在本文中我们将探讨使用开源大型语言多模态模型(Large Language Multi-Modal)构建检索增强生成(RAG)系统。本文的重点是在不依赖LangChain或LLlama index的情况下实现这一目标&#xff0c;这样可以避免更多的框架依赖。 什么是RAG 在人工智能领域&#xff0c;检索增强生成(re…
阅读更多...
如何优雅的在页面上嵌入AI-Agent人工智能

如何优雅的在页面上嵌入AI-Agent人工智能

如何优雅的在页面上嵌入AI-Agent人工智能 前言 IDEA启动&#xff01;大模型的title想必不用我多说了&#xff0c;多少公司想要搭上时代前言技术的快车&#xff0c;感受科技的魅力。现在大模型作为降本增效的强大工具&#xff0c;基本上公司大多人都想要部署开发一把&#xff…
阅读更多...
【LLM之RAG】RAT论文阅读笔记

【LLM之RAG】RAT论文阅读笔记

研究背景 近年来&#xff0c;大型语言模型&#xff08;LLMs&#xff09;在各种自然语言推理任务上取得了显著进展&#xff0c;尤其是在结合大规模模型和复杂提示策略&#xff08;如链式思维提示&#xff08;CoT&#xff09;&#xff09;时。然而&#xff0c;LLMs 在推理的事实…
阅读更多...
RAG私域问答场景超级详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）

RAG私域问答场景超级详细方案(第一期方案)[1]：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块）

RAG私域问答场景整体夏详细方案(第一期方案)：工业级别构建私域问答（知识处理、知识召回排序、搜索问答模块） 大模型性能的跳阶式增长给文本摘要、信息检索、信息抽取、语义问答等自然语言处理任务带来了卓越的性能提升。同时，LangChain 作为一种基于 LLM 的框架，能够快速…
阅读更多...
半天玩转大模型技术之RAG

半天玩转大模型技术之RAG

引 言 当前大模型在金融行业最广泛的应用之一就是知识问答&#xff0c;而支撑该应用的技术正是当下火热的检索增强生成&#xff08;Retrieval Augmented Generation&#xff09;技术&#xff0c;简称 RAG。因企业具体的业务往往需要注入特定的知识&#xff0c;比如ChatBI中企业…
阅读更多...
240911-基于Ollama的22行代码实现极简交互式RAG问答

240911-基于Ollama的22行代码实现极简交互式RAG问答

A. 最终效果 B. 环境配置 pip install llama-index-embeddings-ollama pip install llama-index-llms-ollama pip install llama-indexC. 代码程序 from llama_index.core import VectorStoreIndex, Document, SimpleDirectoryReader,Settings from llama_index.llms.ollama …
阅读更多...
大模型高级 RAG 检索策略之流程与模块化

大模型高级 RAG 检索策略之流程与模块化

我们介绍了很多关于高级 RAG&#xff08;Retrieval Augmented Generation&#xff09;的检索策略&#xff0c;每一种策略就像是机器中的零部件&#xff0c;我们可以通过对这些零部件进行不同的组合&#xff0c;来实现不同的 RAG 功能&#xff0c;从而满足不同的需求。 今天我们…
阅读更多...
Qanything 2 0 源码解析系列3 文件解析服务

Qanything 2 0 源码解析系列3 文件解析服务

Qanything 2.0 源码解析系列3 : 文件解析服务 文章转载自&#xff1a; https://www.feifeixu.top/article/10748c4b-6561-80e9-b15d-c7309e6c021e &#x1f600; 前言&#xff1a; 在1.x的版本中文件上传和文件解析是一起执行的。通过文件上传的接口/api/local_doc_qa/upload_…
阅读更多...
Chainlit集成LlamaIndex实现知识库高级检索（句子窗口节点检索）

Chainlit集成LlamaIndex实现知识库高级检索（句子窗口节点检索）

检索原理 句子窗口检索原理 通常在执行基础的RAG检索时我们会将文档按指定的块大小(chunk_size)进行切割，然后进行embedding的向量化处理后存入向量数据库中，在检索时我们会计算用户问题(question) 与文档块的相似度，并选取K个最相似的文档(context)，并将其和用户问题一起…
阅读更多...
『大模型笔记』测试本地大模型运行框架Ollama(支持macOS/Windows/Linux)

『大模型笔记』测试本地大模型运行框架Ollama(支持macOS/Windows/Linux)

测试本地大模型运行框架Ollama(支持macOS/Windows/Linux) 文章目录 一. Ollama介绍1.1. 安装1.1.1. 直接安装1.1.2. Docker安装1.2. 下载和运行模型1.3. Ollama目前支持的模型(截止到2024-03-05，持续更新)1.4. Ollama ModelFile(模型文件)二. Open WebUI2.1. 主要特点2.2. Doc…
阅读更多...
在大模型应用层面区分对比检索增强生成RAG技术和知识库技术

在大模型应用层面区分对比检索增强生成RAG技术和知识库技术

在前文&#xff1a; 《RAG(Retrieval-Augmented Generation)检索增强生成技术基础了解学习与实践》 初步了解实践了RAG技术&#xff0c;后面好多朋友也在沟通聊到了前面大模型另一项技术就是本地知识库方法&#xff0c;之前基于LangChain本地知识库的方式&#xff0c;可以本地…
阅读更多...
240922-chromadb的基本使用

240922-chromadb的基本使用

A. 背景介绍 ChromaDB 是一个较新的开源向量数据库&#xff0c;专为高效的嵌入存储和检索而设计。与其他向量数据库相比&#xff0c;ChromaDB 更加专注于轻量化、简单性和与机器学习模型的无缝集成。它的核心目标是帮助开发者轻松管理和使用高维嵌入向量&#xff0c;特别是与生…
阅读更多...
MAGICORE：基于多代理迭代的粗到细精炼框架，提升大语言模型推理质量

MAGICORE：基于多代理迭代的粗到细精炼框架，提升大语言模型推理质量

大语言模型(LLM)的推理能力可以通过测试时聚合策略来改进,即为每个问题生成多个样本并对它们进行聚合以找到更好的答案。这些方法往往会达到饱和点,超过这个点后额外的样本不会带来更多收益。精炼(refinement)提供了另一种选择,它使用模型生成的反馈不仅采样更多解决方案,还提高…
阅读更多...
企业本地部署大型语言模型（LLMs）构建本地垂直领域知识库的策略|空天防御

企业本地部署大型语言模型（LLMs）构建本地垂直领域知识库的策略|空天防御

0 引言 在数字化转型的浪潮中&#xff0c;传统企业面临着前所未有的机遇与挑战。随着大数据、云计算和人工智能技术的发展&#xff0c;企业积累的私有数据成为了潜在的金矿&#xff0c;等待着被挖掘和利用。大型语言模型&#xff08;LLMs&#xff09;作为当前人工智能领域的前…
阅读更多...
PDF转化为机器可读格式的工具

PDF转化为机器可读格式的工具

MinerU PDF转化为机器可读格式的工具 项目简介 MinerU是一款将PDF转化为机器可读格式的工具&#xff08;如markdown、json&#xff09;&#xff0c;可以很方便地抽取为任意格式。 项目地址&#xff1a; https://github.com/opendatalab/MinerU/tree/master主要功能 删除页…
阅读更多...
开箱即用的大模型应用跟踪与批量测试方案

开箱即用的大模型应用跟踪与批量测试方案

背景介绍 最近抽空参加了一个讯飞的 RAG 比赛&#xff0c;耗时两周终于在最后一天冲上了榜首。 整体的框架是基于 RAG 能力有点弱弱的 Dify 实现。在比赛调优的过程中&#xff0c;经常需要批量提交几百个问题至 Dify 获取回答&#xff0c;并需要跟踪多轮调优的效果差异。借助…
阅读更多...
【大模型】Ollama+open-webui/Anything LLM部署本地大模型构建RAG个人知识库教程（Mac）

【大模型】Ollama+open-webui/Anything LLM部署本地大模型构建RAG个人知识库教程（Mac）

目录 一、Ollama是什么&#xff1f; 二、如何在Mac上安装Ollama 1. 准备工作 2. 下载并安装Ollama 3. 运行Ollama 4. 安装和配置大型语言模型 5. 使用Ollama 三、安装open-webui 1. 准备工作 2. Open WebUI ⭐的主要特点 3. Docker安装OpenWebUI&#xff0c;拉去太慢…
阅读更多...
RAG理论到实践：高级、模块化RAG在AI工程架构中的行业通用解决方案与实施策略(Advanced RAG✨)

RAG理论到实践：高级、模块化RAG在AI工程架构中的行业通用解决方案与实施策略(Advanced RAG✨)

RAG理论到实践：高级、模块化RAG在AI工程架构中的行业通用解决方案与实施策略(Advanced RAG✨) 随着 ChatGPT 的兴起，大语言模型再次走进人们的视野，其在 NLP 领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交…
阅读更多...
【文档智能 RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

【文档智能 RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

前言 现阶段&#xff0c;尽管大模型在生成式问答上取得了很大的成功&#xff0c;但由于大部分的数据都是私有数据&#xff0c;大模型的训练及微调成本非常高&#xff0c;RAG的方式逐渐成为落地应用的一种重要的选择方式。然而&#xff0c;如何准确的对文档进行划分chunks&…
阅读更多...
【RAG】RAG性能提升之路-RAPTOR：一种构建递归文档树的增强检索方法

【RAG】RAG性能提升之路-RAPTOR：一种构建递归文档树的增强检索方法

背景 检索增强型语言模型&#xff08;RALMs&#xff09;在处理需要不断更新的知识和大量信息的文档时确实展现出了优势。然而&#xff0c;现有的方法在处理长篇文档时存在局限性&#xff0c;主要是因为它们通常只能检索较短的文本片段&#xff0c;这限制了对整体文档上下文的全…
阅读更多...
Qdrant官方快速入门和教程简化版

Qdrant官方快速入门和教程简化版

Qdrant官方快速入门和教程简化版 说明&#xff1a; 首次发表日期&#xff1a;2024-08-28Qdrant官方文档&#xff1a;https://qdrant.tech/documentation/ 关于 阅读Qdrant一小部分的官方文档&#xff0c;并使用中文简化记录下&#xff0c;更多请阅读官方文档。 使用Docker…
阅读更多...
检索增强生成RAG系列10--RAG的实际案例

检索增强生成RAG系列10--RAG的实际案例

讲了很多理论&#xff0c;最后来一篇实践作为结尾。本次案例根据阿里云的博金大模型挑战赛的题目以及数据集做一次实践。 完整代码地址&#xff1a;https://github.com/forever1986/finrag.git 本次实践代码有参考&#xff1a;https://github.com/Tongyi-EconML/FinQwen/ 目录 …
阅读更多...
RAG数据集自动构造探索, 附prompt

RAG数据集自动构造探索, 附prompt

从文档中手动创建数百个 QA&#xff08;问题-上下文-答案&#xff09;样本可能非常耗时且劳动密集。此外&#xff0c;人工生成的问题可能难以达到全面评估所需的复杂程度&#xff0c;最终影响评估的质量。通过使用合成数据生成&#xff0c;开发人员在数据聚合过程中的时间可以减…
阅读更多...
基于RAG多层次的多代理架构来处理时序任务

基于RAG多层次的多代理架构来处理时序任务

《Agentic Retrieval-Augmented Generation for Time Series Analysis》这篇文章提出了一种新颖的时间序列分析方法&#xff0c;称为Agentic Retrieval-Augmented Generation&#xff08;RAG&#xff09;框架。它通过多层次的多代理架构来处理时间序列任务&#xff0c;其中主代…
阅读更多...
大模型知识检索RAG业务实践实践(技术详解篇)

大模型知识检索RAG业务实践实践(技术详解篇)

大模型知识检索RAG业务实践实践(技术详解篇) 智能助手作为智能对话机器人，承接着线上用户的实时 query，覆盖行情、事件、客服、投教、闲聊、荐股荐基等多种意图，能够快速地做出专业且准确地回答。但是，回答的承接性和准确性一直面临着挑战。近些年，随着深度学习的发展，大…
阅读更多...
【LLM之RAG】Adaptive-RAG论文阅读笔记

【LLM之RAG】Adaptive-RAG论文阅读笔记

研究背景 文章介绍了大型语言模型&#xff08;LLMs&#xff09;在处理各种复杂查询时的挑战&#xff0c;特别是在不同复杂性的查询处理上可能导致不必要的计算开销或处理不足的问题。为了解决这一问题&#xff0c;文章提出了一种自适应的查询处理框架&#xff0c;动态选择最合…
阅读更多...
大模型高级 RAG 检索策略：自动合并检索

大模型高级 RAG 检索策略：自动合并检索

节前&#xff0c;我们星球组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂朋友、参加社招和校招面试的同学. 针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集&…
阅读更多...
AutoGen 检索增强生成（RAG）功能解析

AutoGen 检索增强生成（RAG）功能解析

目录 一、什么是检索增强&#xff08;RAG&#xff09; &#xff1f; 二、AutoGen 检索增强&#xff08;RAG&#xff09; 三、实例 本文主要对 AutoGen 检索增强生成&#xff08;RAG&#xff09;功能进行解析&#xff0c;并通过两个实例来说明。 一、什么是检索增强&#xf…
阅读更多...
langchain结合searXNG实现基于搜索RAG

langchain结合searXNG实现基于搜索RAG

目录 一、背景 二、环境说明和安装 1.1 环境说明 2.2 环境安装 2.2.1 searXNG安装 三、代码实现 代码 结果输出 直接请求模型输出 四、参考 一、背景 大语言模型的出现带来了新的技术革新&#xff0c;但是大模型由于训练语料的原因&#xff0c;它的知识和当前实时热点…
阅读更多...
如何在 Go 应用程序中使用检索增强生成（RAG）

如何在 Go 应用程序中使用检索增强生成（RAG）

本文将帮助大家实现 RAG &#xff08;使用 LangChain 和 PostgreSQL &#xff09;以提高 LLM 输出的准确性和相关性。 得益于强大的机器学习模型&#xff08;特别是由托管平台/服务通过 API 调用公开的大型语言模型&#xff0c;如 Claude 的 LLama 2等&#xff09;&#xff0c…
阅读更多...
我用GPT对RAG技术的学习和探索

我用GPT对RAG技术的学习和探索

思维导图 下图是我的学习和探索过程&#xff0c;红点表示已研究&#xff0c;黄点表示待研究 目录 思维导图RAG技术概述RAG 的关键优点应用场景 如何了解RAG技术的原理和应用1. **基础理论学习**2. **实战演练**3. **学习资源利用**4. **保持学习的连贯性**5. **多角度理解**6. …
阅读更多...
AI生成的代码正在把程序员逼到“崩溃”

AI生成的代码正在把程序员逼到“崩溃”

最近&#xff0c;在技术社区HakerNews里&#xff0c;开发者们再次开启了对AI代码的疯狂吐槽。 这起源于一篇名为“我厌倦了修改客户用AI生成的代码”文章。 在文章里&#xff0c;名叫Tacitus的小哥说自己在今年年初开发了一些用来做资产交易和相关数据收集的工具&#xff0c;有…
阅读更多...
语言大模型的分布式训练与高效微调指南

语言大模型的分布式训练与高效微调指南

最近语言大模型&#xff08;LLM&#xff09;异常火爆&#xff0c;一个非常特别的开源社区正在探索在消费级硬件上微调、提供服务和进行推理的最佳方式。为满足上述需求&#xff0c;出现了许多出色的开源代码库&#xff0c;以HuggingFace生态系统为中心&#xff0c;这些代码库还…
阅读更多...
从数据到洞察：DB-GPT驱动的智能化财报分析解决方案

从数据到洞察：DB-GPT驱动的智能化财报分析解决方案

从数据到洞察：DB-GPT驱动的智能化财报分析解决方案 最近，利用大模型进行财务报表分析正逐渐成为垂直领域的一个热门应用。大模型能够比人类更准确地理解复杂的财务规则，并在基于专业知识的基础上输出合理的分析结果。然而，财务报表信息庞大且复杂，对数据分析的准确性要求…
阅读更多...
240831-Gradio之RAG文档对话工具Kotaemon的安装与配置

240831-Gradio之RAG文档对话工具Kotaemon的安装与配置

A. 用户界面 该项目既可以作为功能性 RAG UI&#xff0c;既可以用于对文档进行 QA 的最终用户&#xff0c;也可以用作想要构建自己的 RAG 管道的开发人员。对于最终用户&#xff1a; - 一个干净且简约的用户界面&#xff0c;用于基于RAG的QA。 - 支持 LLM API 提供程序&#xf…
阅读更多...
Langchain框架深度剖析：解锁大模型-RAG技术的无限潜能，引领AI应用新纪元

Langchain框架深度剖析：解锁大模型-RAG技术的无限潜能，引领AI应用新纪元

文章目录 前言一、Langchain 框架概述二、大模型-RAG技术原理三、应用示例1.RAG案例一&#xff08;私有文档直接读取-问答&#xff09;2.RAG案例二&#xff08;Vue上传文件结合文件内容回答问题&#xff09;3.RAG案例三&#xff08;Vue秒传文件结合文件内容回答问题&#xff09…
阅读更多...
【拥抱AI】浅谈Prompt的书写规范及要点

【拥抱AI】浅谈Prompt的书写规范及要点

Prompt是什么&#xff1f; Prompt是一种技术&#xff0c;它通过自然语言处理来引导用户与机器之间的交互。在人工智能领域&#xff0c;Prompt通常用于生成文本&#xff0c;例如对话系统、机器翻译和文本摘要等应用。它也用于训练模型&#xff0c;以使其能够理解和生成人类语言…
阅读更多...
RAG与LLM原理及实践(16)---RAG 前端技术Flask-socketIO

RAG与LLM原理及实践(16)---RAG 前端技术Flask-socketIO

目录 背景 技术理念 RAG结合点 实时数据更新与推送 实时查询与响应 安装 使用完整案例 说明 后端 python代码 代码解释 前端 html代码 JS代码 代码解释 总结 背景 构建RAG系统或别的系统时，如果后端采用的全Python，或者说是以python 为主的系统，是很常见的…
阅读更多...
#RAG##AIGC#检索增强生成 (RAG) 基本介绍和入门实操示例

#RAG##AIGC#检索增强生成 (RAG) 基本介绍和入门实操示例

本文包括RAG基本介绍和入门实操示例 RAG 基本介绍 通用语言模型可以进行微调以实现一些常见任务&#xff0c;例如情感分析和命名实体识别。这些任务通常不需要额外的背景知识。 对于更复杂和知识密集型的任务&#xff0c;可以构建基于语言模型的系统来访问外部知识源来完成任…
阅读更多...
实现 ChatPDF RAG：密集向量检索（R）+上下文学习（AG）

实现 ChatPDF RAG：密集向量检索（R）+上下文学习（AG）

实现 ChatPDF & RAG&#xff1a;密集向量检索&#xff08;R&#xff09;上下文学习&#xff08;AG&#xff09; RAG 是啥&#xff1f;怎么优化 RAG&#xff1f; RAG 是啥&#xff1f; RAG 是检索增强生成的缩写&#xff0c;是一种结合了信息检索技术与语言生成模型的人工智…
阅读更多...
小白学RAG：大模型 RAG 技术实践总结

小白学RAG：大模型 RAG 技术实践总结

节前&#xff0c;我们组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂朋友、今年参加社招和校招面试的同学。 针对大模型技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备面试攻略、面试常考点等热门话题进行了深入的讨论。 汇总合集…
阅读更多...
大模型如何生成下一个token--解码策略

大模型如何生成下一个token--解码策略

Background 生成模型目前主要使用自回归&#xff08;Autoregressive&#xff09;模型&#xff0c;通过上文信息预测下文信息&#xff0c;如GPT系列&#xff1b; BERT系列使用自编码&#xff08;AutoEncode&#xff09;模型&#xff0c;在输入中随机mask一部分token&#xff0c…
阅读更多...
Fastgpt本地或服务器私有化部署常见问题

Fastgpt本地或服务器私有化部署常见问题

一、错误排查方式 遇到问题先按下面方式排查。 docker ps -a 查看所有容器运行状态，检查是否全部 running，如有异常，尝试docker logs 容器名查看对应日志。容器都运行正常的，docker logs 容器名 查看报错日志带有requestId的，都是 OneAPI 提示错误，大部分都是因为模型接…
阅读更多...
dify安装（传统docker-compose）

dify安装（传统docker-compose）

克隆 Dify 代码仓库 克隆 Dify 源代码至本地环境。 git clone --depth 1 https://github.com/langgenius/dify.git启动 Dify 进入 Dify 源代码的 Docker 目录 cd dify/docker-legacy启动 Docker 容器 docker-compose up -d运行命令后&#xff0c;你应该会看到类似以下的输…
阅读更多...
我的第3个AI项目-Advanced RAG with Gemma, Weaviate, and LlamaIndex

我的第3个AI项目-Advanced RAG with Gemma, Weaviate, and LlamaIndex

目录 一、项目简介概述时间kaggle地址&#xff08;代码和详细注解&#xff09;主要工作和收获技术栈数据集结果 二、bug修复在 Kaggle 使用模型时需要先同意该模型的使用条款使用 GPU 时显存不足把 Weaviate 从V3升级到V4改动一&#xff1a;创建client改动二&#xff1a;判断某…
阅读更多...
828华为云征文｜部署知识库问答系统 MaxKB

828华为云征文｜部署知识库问答系统 MaxKB

828华为云征文&#xff5c;部署知识库问答系统 MaxKB 一、Flexus云服务器X实例介绍1.1 云服务器介绍1.2 核心竞争力1.3 计费模式 二、Flexus云服务器X实例配置2.1 重置密码2.2 服务器连接2.3 安全组配置 三、部署 MaxKB3.1 MaxKB 介绍3.2 Docker 环境搭建3.3 MaxKB 部署3.4 Max…
阅读更多...
【LLM Agent 长文本】Chain-of-Agents与Qwen-Agent引领智能体长文本处理革命

【LLM Agent 长文本】Chain-of-Agents与Qwen-Agent引领智能体长文本处理革命

前言 大模型在处理长文本上下文任务时主要存在以下两个问题&#xff1a; 输入长度减少&#xff1a;RAG的方法可以减少输入长度&#xff0c;但这可能导致所需信息的部分丢失&#xff0c;影响任务解决性能。扩展LLMs的上下文长度&#xff1a;通过微调的方式来扩展LLMs的上下文窗…
阅读更多...
【宠粉赠书】大模型RAG实战：RAG原理、应用与系统构建

【宠粉赠书】大模型RAG实战：RAG原理、应用与系统构建

为了回馈粉丝们的厚爱&#xff0c;今天小智给大家送上一套大模型RAG实战指南——《大模型RAG实战&#xff1a;RAG原理、应用与系统构建》。这是一本已经被市场公认的大模型RAG的标准性著作&#xff0c;极具实战性和技巧性&#x1f525;&#x1f525;&#x1f525;&#xff0c;阅…
阅读更多...
Llamaindex 使用过程中的常见问题 （FAQ）

Llamaindex 使用过程中的常见问题 （FAQ）

导读 在使用LlamaIndex进行文档索引和查询时&#xff0c;您可能会发现需要根据特定的需求对基础设置进行调整。下面是一些常见的定制化需求及其对应的实现方式&#xff1a; 文档分割&#xff1a;为了更好地管理和查询大型文档&#xff0c;您可以选择将文档分割成更小的块。这可…
阅读更多...
一文掌握 Prompt：万能框架+优化技巧+常用指标

一文掌握 Prompt：万能框架+优化技巧+常用指标

Prompt 万能框架 在编写 Prompt 时&#xff0c;从0到1的编写出第一版 Prompt 往往是最难的&#xff0c;而基于已有 Prompt 利用各种技巧进行优化则相对简单。善于解决 “数理问题” 的我们在面对这样一个偏 “文理问题” 的任务时&#xff0c;就像小时候写作文一样难以提笔。如…
阅读更多...
RAG+Agent人工智能平台：RAGflow实现GraphRA知识库问答，打造极致多模态问答与AI编排流体验

RAG+Agent人工智能平台：RAGflow实现GraphRA知识库问答，打造极致多模态问答与AI编排流体验

1.RAGflow简介 全面优化的 RAG 工作流可以支持从个人应用乃至超大型企业的各类生态系统。大语言模型 LLM 以及向量模型均支持配置。基于多路召回、融合重排序。提供易用的 API&#xff0c;可以轻松集成到各类企业系统。支持丰富的文件类型&#xff0c;包括 Word 文档、PPT、exc…
阅读更多...
【GoMate框架案例】讯飞大模型RAG智能问答挑战赛top10 Baseline

【GoMate框架案例】讯飞大模型RAG智能问答挑战赛top10 Baseline

【RAG框架】GoMate&#xff1a;RAG Framework within Reliable input,Trusted output 【项目链接】&#xff1a;https://github.com/gomate-community/GoMate 一、赛题背景 RAG&#xff08;检索增强生成&#xff09;是一种结合了检索模型和生成模型的技术&#xff0c;它通过检…
阅读更多...
化“腐朽”为“神奇”：5 种 RAG 优化技术应对千奇百怪的 Query

化“腐朽”为“神奇”：5 种 RAG 优化技术应对千奇百怪的 Query

编者按&#xff1a;您是否曾经遇到这样的情况&#xff1a;明明构建了一个功能强大的 RAG 系统&#xff0c;但用户却频繁抱怨“找不到想要的信息”或“返回的结果不够准确”&#xff1f;这是许多 RAG 应用开发者面临的共同挑战。 这个问题不仅会导致用户体验下降&#xff0c;更可…
阅读更多...
[论文笔记]Improving Retrieval Augmented Language Model with Self-Reasoning

[论文笔记]Improving Retrieval Augmented Language Model with Self-Reasoning

引言 今天带来一篇百度提出的关于提升RAG准确率的论文笔记&#xff0c;Improving Retrieval Augmented Language Model with Self-Reasoning。 为了简单&#xff0c;下文中以翻译的口吻记录&#xff0c;比如替换"作者"为"我们"。 检索增强语言模型(Retrie…
阅读更多...
pgvector docker版安装；稀疏向量使用；psycopg2 python连接使用

pgvector docker版安装；稀疏向量使用；psycopg2 python连接使用

参看： https://cloud.tencent.com/developer/article/2359831 https://hub.docker.com/r/pgvector/pgvector/tags https://github.com/pgvector/pgvector 一、安装 拉取0.7版本 docker pull pgvector/pgvector:0.7.4-pg16运行： docker run --name pgvector -v $(pwd)/dat…
阅读更多...
[译] RAGFlow 使用说明

[译] RAGFlow 使用说明

本文翻译整理自&#xff1a;https://ragflow.io/docs/dev/ 本文档更多是 RAGFlow 系统操作内容&#xff0c;虽然不难/深刻&#xff0c;但有些细节没有注意&#xff0c;在搭建和使用的时候就容易出各类问题。所以读完这个文档是有必要的。 文章目录 快速启动一、先决条件二、启…
阅读更多...
FastGPT 源码调试配置

FastGPT 源码调试配置

目录 一、添加 launch.json 文件 二、调试 本文简单介绍如何通过 vscode 对 FastGPT 进行调试。 这里假设已经安装 vsocde 和 FastGPT本地部署。 一、添加 launch.json 文件 vscode 打开 FastGPT 项目，点击 调试 -> 显示所有自动调试配置 -> 添加配置 -> Node.j…
阅读更多...
Dify中的RAG和知识库

Dify中的RAG和知识库

一.RAG 基本架构 当用户提问 “美国总统是谁&#xff1f;” 时&#xff0c;系统并不是将问题直接交给大模型来回答&#xff0c;而是先将用户问题在知识库中进行向量搜索&#xff0c;通过语义相似度匹配的方式查询到相关的内容&#xff08;拜登是美国现任第46届总统…&#xff0…
阅读更多...
高级RAG(四)：RAGAs评估

高级RAG(四)：RAGAs评估

之前我完成了父文档检索器和llamaIndex从小到大的检索这两篇博客&#xff0c;我在这两篇博客中分别介绍了使用langchain和llamaIndex进行文档检索的方法和步骤&#xff0c;其中包含了不同的RAG的检索策略&#xff0c;通常来说一个典型的RAG系统一般包含两个主要的部件&#xff…
阅读更多...
大模型教程：使用 Milvus、vLLM 和 Llama 3.1 搭建 RAG 应用

大模型教程：使用 Milvus、vLLM 和 Llama 3.1 搭建 RAG 应用

vLLM 是一个简单易用的 LLM 推理服务库。加州大学伯克利分校于 2024 年 7 月将 vLLM 作为孵化项目正式捐赠给 LF AI & Data Foundation 基金会。欢迎 vLLM 加入 LF AI & Data 大家庭&#xff01;&#x1f389; 在主流的 AI 应用架构中&#xff0c;大语言模型&#xff…
阅读更多...
TypeError: expected string or buffer - Langchain, OpenAI Embeddings

TypeError: expected string or buffer - Langchain, OpenAI Embeddings

题意&#xff1a;类型错误&#xff1a;期望字符串或缓冲区 - Langchain&#xff0c;OpenAI Embeddings 问题背景&#xff1a; I am trying to create RAG using the product manuals in pdf which are splitted, indexed and stored in Chroma persisted on a disk. When I tr…
阅读更多...
OpenAI官方指南: 降低幻觉,增加LLM回答准确性的3步流程

OpenAI官方指南: 降低幻觉,增加LLM回答准确性的3步流程

我一直关心大模型回答准确性的问题, 最近准备把ChatGPT Plus会员取消, 误打误撞看到OpenAI的guidebook, 又碰巧点开了一篇干货最多的文档"Optimizing LLMs for accuracy",这篇主要基于该文档说明, 也参考了其他OpenAI guide的文档, 如"Model Selection" ,“…
阅读更多...
利用语义搜索和混合查询策略提升RAG系统的准确性

利用语义搜索和混合查询策略提升RAG系统的准确性

人工智能咨询培训老师叶梓 转载标明出处 在构建基于大模型&#xff08;LLM&#xff09;的生成式问答系统&#xff08;Generative Q&A&#xff09;时&#xff0c;检索增强生成&#xff08;Retrieval-Augmented Generation, RAG&#xff09;方法被广泛采用。RAG通过结合检索…
阅读更多...
2024淘天阿里妈妈算法工程师一面＆二面 面试题

2024淘天阿里妈妈算法工程师一面＆二面 面试题

节前&#xff0c;我们组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂朋友、参加社招和校招面试的同学&#xff0c;针对大模型技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何备战、面试常考点分享等热门话题进行了深入的讨论。 今天我们…
阅读更多...
LLMs之Vanna：Vanna(利用自然语言查询数据库的SQL工具+底层基于RAG)的简介、安装、使用方法之详细攻略

LLMs之Vanna：Vanna(利用自然语言查询数据库的SQL工具+底层基于RAG)的简介、安装、使用方法之详细攻略

LLMs之Vanna&#xff1a;Vanna(利用自然语言查询数据库的SQL工具底层基于RAG)的简介、安装、使用方法之详细攻略 目录 Vanna的简介 1、用户界面 2、RAG vs. Fine-Tuning 3、为什么选择Vanna&#xff1f; 4、扩展Vanna Vanna的安装和使用方法 1、安装 2、训练 (1)、使用…
阅读更多...
如何使用 Re-Ranking 改进大模型 RAG 检索

如何使用 Re-Ranking 改进大模型 RAG 检索

基于大型语言模型&#xff08;LLMs&#xff09;的聊天机器人可以通过检索增强生成&#xff08;RAG&#xff09;提供外部知识来改进。 这种外部知识可以减少错误答案&#xff08;幻觉&#xff09;&#xff0c;并且使模型能够访问其训练数据中未包含的信息。 通过RAG&#xff0…
阅读更多...
用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

Retrieval-Augmented Generation&#xff08;RAG&#xff09;是一种强大的技术&#xff0c;能够提高大型语言模型&#xff08;LLM&#xff09;的性能&#xff0c;使其能够从外部知识源中检索信息以生成更准确、具有上下文的回答。 本文将详细介绍 RAG 在 LangChain 中的应用&a…
阅读更多...
[论文阅读] |RAG评估_Retrieval-Augmented Generation Benchmark

[论文阅读] |RAG评估_Retrieval-Augmented Generation Benchmark

写在前面 检索增强能够有效缓解大模型存在幻觉和知识时效性不足的问题&#xff0c;RAG通常包括文本切分、向量化入库、检索召回和答案生成等基本步骤。近期组里正在探索如何对RAG完整链路进行评估&#xff0c;辅助阶段性优化工作。上周先对评估综述进行了初步的扫描&#xff0…
阅读更多...
【LLM之RAG】Self-RAG论文阅读笔记

【LLM之RAG】Self-RAG论文阅读笔记

研究背景 尽管大型语言模型&#xff08;LLM&#xff09;展示出了显著的能力&#xff0c;但它们在生成回答时经常包含事实错误&#xff0c;因为它们仅依赖于封装在模型中的参数知识。增强型检索生成&#xff08;Retrieval-Augmented Generation, RAG&#xff09;是一种方法&…
阅读更多...
Metaphor（EXA） 基于大语言模型的搜索引擎

Metaphor（EXA） 基于大语言模型的搜索引擎

文章目录 关于 Metaphor使用示例 关于 Metaphor Metaphor是基于大语言模型的搜索引擎&#xff0c;允许用户使用完整的句子和自然语言搜索&#xff0c;还可以模拟人们在互联网上分享和谈论链接的方式进行查询内容。 Metaphor同时还能与LLMs结合使用&#xff0c;允许LLMs连接互联…
阅读更多...
利用 MongoDB Atlas 进行大模型语义搜索和RAG

利用 MongoDB Atlas 进行大模型语义搜索和RAG

节前&#xff0c;我们星球组织了一场算法岗技术&面试讨论会&#xff0c;邀请了一些互联网大厂朋友、参加社招和校招面试的同学. 针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。 汇总合集&…
阅读更多...
Langchain-Chatchat开源库使用的随笔记（一）

Langchain-Chatchat开源库使用的随笔记（一）

笔者最近在研究Langchain-Chatchat&#xff0c;所以本篇作为随笔记进行记录。 最近核心探索的是知识库的使用&#xff0c;其中关于文档如何进行分块的详细&#xff0c;可以参考笔者的另几篇文章&#xff1a; 大模型RAG 场景、数据、应用难点与解决&#xff08;四&#xff09;R…
阅读更多...
LangChain学习笔记—RAG（检索增强生成）

LangChain学习笔记—RAG（检索增强生成）

LangChain LangChain是一个软件开发框架&#xff0c;可以更轻松地使用大型语言模型&#xff08;LLM&#xff09;创建应用程序。它是一个具有 Python 和 JavaScript 代码库的开源工具。LangChain 允许开发人员将 GPT-4 等 LLM 与外部数据相结合&#xff0c;为聊天机器人、代码理…
阅读更多...
高级RAG(八): 自动合并检索(Auto-merging Retrieval)

高级RAG(八): 自动合并检索(Auto-merging Retrieval)

自动合并检索(Auto-merging Retrieval)是LlamaIndex的另外一种高级RAG技术&#xff0c;它有点类似与我们之间介绍的从小到大的检索&#xff0c;不过自动合并检索要比“从小到大的检索”稍微复杂一些&#xff0c;它首先将文档按一定的层次结构进行切割&#xff0c;然后在检索的时…
阅读更多...
【概述版】悲剧先于解析：在大型语言模型的新时代，历史重演了

【概述版】悲剧先于解析：在大型语言模型的新时代，历史重演了

这篇论文探讨了大型语言模型&#xff08;LLM&#xff09;的成功对自然语言处理&#xff08;NLP&#xff09;领域的影响&#xff0c;并提出了在这一新时代中继续做出有意义贡献的方向。作者回顾了2005年机器翻译中大型语法模型的第一个时代&#xff0c;并从中汲取教训和经验。他…
阅读更多...
RAG vs 意图识别：AI领域的新较量

RAG vs 意图识别：AI领域的新较量

RAG&#xff08;Retrieval-Augmented Generation&#xff09; 定义&#xff1a;RAG是一种结合了检索&#xff08;Retrieval&#xff09;和生成&#xff08;Generation&#xff09;的模型&#xff0c;旨在通过检索外部知识库来增强语言模型的回答能力。目的&#xff1a;RAG的主…
阅读更多...
RAG - QA + Qwen + dashscope

RAG - QA + Qwen + dashscope

文章目录 一、关于项目二、准备1、安装依赖包2、准备数据集3、准备 API-Key 三、代码实现准备数据生成 embeddings检索方法问答 转载改编自&#xff1a;qwen_doc_search_QA_based_on_dashscope.ipynb https://github.com/modelscope/modelscope/blob/master/examples/pytorch/a…
阅读更多...
实现开源可商用的 ChatPDF RAG：密集向量检索（R）+上下文学习（AG）

实现开源可商用的 ChatPDF RAG：密集向量检索（R）+上下文学习（AG）

实现 ChatPDF & RAG&#xff1a;密集向量检索&#xff08;R&#xff09;上下文学习&#xff08;AG&#xff09; RAG 是啥&#xff1f;实现 ChatPDF怎么优化 RAG&#xff1f; RAG 是啥&#xff1f; RAG 是检索增强生成的缩写&#xff0c;是一种结合了信息检索技术与语言生成…
阅读更多...
忘记 RAG：拥抱Agent设计，让 ChatGPT 更智能更贴近实际

忘记 RAG：拥抱Agent设计，让 ChatGPT 更智能更贴近实际

RAG&#xff08;检索增强生成&#xff09;设计模式通常用于开发特定数据领域的基于实际情况的ChatGPT。 然而&#xff0c;重点主要是改进检索工具的效率&#xff0c;如嵌入式搜索、混合搜索和微调嵌入&#xff0c;而不是智能搜索。 这篇文章介绍了一种新的方法&#xff0c;灵感…
阅读更多...
LangChain 0.2 - 构建本地 RAG应用

LangChain 0.2 - 构建本地 RAG应用

本文翻译整理自&#xff1a;Build a Local RAG Application https://python.langchain.com/v0.2/docs/tutorials/local_rag/ 文章目录 一、项目说明二、文档加载三、模型1、LLaMA22、GPT4All3、llamafile 四、链式使用五、问答六、检索问答 一、项目说明 PrivateGPT、llama.cp…
阅读更多...
RAGFlow 学习笔记

RAGFlow 学习笔记

RAGFlow 学习笔记 0. 引言1. RAGFlow 支持的文档格式2. 嵌入模型选择后不再允许改变3. 干预文件解析​4. RAGFlow 与其他 RAG 产品有何不同&#xff1f; ​5. RAGFlow 支持哪些语言&#xff1f; ​6. 哪些嵌入模型可以本地部署&#xff1f; ​7. 为什么RAGFlow解析文档的时间比…
阅读更多...
RAG综述 《Retrieval-Augmented Generation for Large Language Models: A Survey》笔记

RAG综述 《Retrieval-Augmented Generation for Large Language Models: A Survey》笔记

文章目录 概述RAG 的定义RAG的框架Naive RAGAdvanced RAGpre-retrieval processRetrievalpost-retrieval process Modular RAG RetrievalEnhancing Semantic Representationschunk 优化 微调向量模型Aligning Queries and DocumentsAligning Retriever and LLM GenerationAugme…
阅读更多...
Fastgpt接入Whisper本地模型实现语音输入

Fastgpt接入Whisper本地模型实现语音输入

前言 FastGPT 默认使用了 OpenAI 的 LLM 模型和语音识别模型，如果想要私有化部署的话，可以使用openai 开源模型Whisper。参考文章 《openai 开源模型Whisper语音转文本模型下载使用》 开源项目地址 ： 兼容openai接口api服务 https://gitee.com/taisan/whisper-api 设置安…
阅读更多...
本地部署 RAGFlow

本地部署 RAGFlow

本地部署 RAGFlow 0. RAGFlow 是什么？1. 安装 wsl-ubuntu2. (可选)配置清华大学软件源3. 系统更新和安装构建工具4. 安装 Miniconda35. 安装 CUDA Toolkit6. 安装 git lfs7. 配置 Hugging Face 的缓存路径8. 配置 vm.max_map_count9. 安装 Docker Engine10. 安装 nginx11. 本地…
阅读更多...
『大模型笔记』RAG应用的12种调优策略指南

『大模型笔记』RAG应用的12种调优策略指南

RAG应用的12种调优策略指南 文章目录 一. 概要二. 数据索引2.1. 数据清洗2.2. 分块2.3. 嵌入模型2.4. 元数据（或未向量化的数据）2.5. 多索引2.6. 索引算法三. 推理阶段（检索和生成）3.1. 检索参数3.2. 高级检索策略3.3. 重新排序模型3.5. 大语言模型（LLM）
阅读更多...
T-RAG：结合实体检测的增强检索生成模型

T-RAG：结合实体检测的增强检索生成模型

内容摘要&#xff1a; T-RAG是一种新的大型语言模型&#xff08;LLM&#xff09;应用框架&#xff0c;在保证数据隐私的同时&#xff0c;提高了对私有企业文档的问答系统性能。T-RAG通过结合已有的增强检索生成&#xff08;RAG&#xff09;框架、自定义的开源语言模型以及一个实…
阅读更多...
#RAG#llm时代-RAG各模块痛点总结及解决办法，强化rag认知

#RAG#llm时代-RAG各模块痛点总结及解决办法，强化rag认知

RAG&#xff08;Retrieval-Augmented Generation&#xff09;技术是一种结合了检索和生成的方法&#xff0c;能够在生成文本的过程中利用外部知识库或语境来提高生成文本的质量和准确性。在当前的LLM&#xff08;Large Language Model&#xff09;时代&#xff0c;RAG技术显得尤…
阅读更多...
Re58：读论文 REALM: Retrieval-Augmented Language Model Pre-Training

Re58：读论文 REALM: Retrieval-Augmented Language Model Pre-Training

诸神缄默不语-个人CSDN博文目录 诸神缄默不语的论文阅读笔记和分类 论文名称&#xff1a;REALM: Retrieval-Augmented Language Model Pre-Training 模型名称&#xff1a;Retrieval-Augmented Language Model pre-training (REALM) 本文是2020年ICML论文&#xff0c;作者来自…
阅读更多...
大型语言模型与知识图谱的完美结合：从LLMs到RAG，探索知识图谱构建的全新篇章

大型语言模型与知识图谱的完美结合：从LLMs到RAG，探索知识图谱构建的全新篇章

最近，使用大型语言模型（LLMs）和知识图谱（KG）开发 RAG（Retrieval Augmented Generation）流程引起了很大的关注。在这篇文章中，我将使用 LlamaIndex 和 NebulaGraph 来构建一个关于费城费利斯队（Philadelphia Phillies）的 RAG 流程。 我们用的是开源的 NebulaGraph 来…
阅读更多...
Re59：读论文 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

Re59：读论文 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

诸神缄默不语-个人CSDN博文目录 诸神缄默不语的论文阅读笔记和分类 论文名称&#xff1a;Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 模型开源地址&#xff1a;https://huggingface.co/facebook/rag-token-nq ArXiv下载地址&#xff1a;https://arxi…
阅读更多...
【RAG实践】基于 LlamaIndex 和Qwen1.5搭建基于本地知识库的问答机器人

【RAG实践】基于 LlamaIndex 和Qwen1.5搭建基于本地知识库的问答机器人

什么是RAG LLM会产生误导性的 “幻觉”&#xff0c;依赖的信息可能过时&#xff0c;处理特定知识时效率不高&#xff0c;缺乏专业领域的深度洞察&#xff0c;同时在推理能力上也有所欠缺。 正是在这样的背景下&#xff0c;检索增强生成技术&#xff08;Retrieval-Augmented G…
阅读更多...
ChatGPT ：确定性AI源自于确定性数据

ChatGPT ：确定性AI源自于确定性数据

ChatGPT 幻觉 大模型实际应用落地过程中&#xff0c;会遇到幻觉&#xff08;Hallucination&#xff09;问题。对于语言模型而言&#xff0c;当生成的文本语法正确流畅&#xff0c;但不遵循原文&#xff08;Faithfulness&#xff09;&#xff0c;或不符合事实&#xff08;Factua…
阅读更多...
大模型 LLM RAG在 Text2SQL 上的应用实践

大模型 LLM RAG在 Text2SQL 上的应用实践

1. 前言 在上篇文章中「LLM Agent在Text2SQL应用上的实践」介绍了基于AI Agent来优化LLM的Text2SQL转换效果的实践&#xff0c;除此之外我们还可以使用RAG&#xff08;Retrieval-Augmented Generation&#xff09;来优化大模型应用的效果。 本文将从以下4个方面探讨通过RAG来…
阅读更多...
如何选择最适合你的LLM优化方法：全面微调、PEFT、提示工程和RAG对比分析

如何选择最适合你的LLM优化方法：全面微调、PEFT、提示工程和RAG对比分析

一、前言 自从ChatGPT问世以来&#xff0c;全球各地的企业都迫切希望利用大型语言模型&#xff08;LLMs&#xff09;来提升他们的产品和运营。虽然LLMs具有巨大的潜力&#xff0c;但存在一个问题&#xff1a;即使是最强大的预训练LLM也可能无法直接满足你的特定需求。其原因如…
阅读更多...
Langchain中改进RAG能力的3种常用的扩展查询方法

Langchain中改进RAG能力的3种常用的扩展查询方法

有多种方法可以提高检索增强生成(RAG)的能力&#xff0c;其中一种方法称为查询扩展。我们这里主要介绍在Langchain中常用的3种方法 查询扩展技术涉及对用户的原始查询进行细化&#xff0c;以生成更全面和信息丰富的搜索。使用扩展后的查询将从向量数据库中获取更多相关文档。 …
阅读更多...
PyLMKit(4):基于本地知识库的检索增强生成RAG

PyLMKit(4):基于本地知识库的检索增强生成RAG

基于本地知识库的检索增强生成RAG 0.项目信息 日期&#xff1a; 2023-12-2作者&#xff1a;小知课题: RAG&#xff08;Retrieval-Augmented Generation&#xff0c;检索增强生成&#xff09;是一种利用知识库检索的方法&#xff0c;提供与用户查询相关的内容&#xff0c;从而…
阅读更多...
基于 LLaMA 和 LangChain 实践本地 AI 知识库

基于 LLaMA 和 LangChain 实践本地 AI 知识库

有时候，我难免不由地感慨，真实的人类世界，本就是一个巨大的娱乐圈，即使是在英雄辈出的 IT 行业。数日前，Google 正式对外发布了 Gemini 1.5 Pro，一个建立在 Transformer 和 MoE 架构上的多模态模型。可惜，这个被 Google 寄予厚望的产品并未激起多少水花，因为就在同一天…
阅读更多...
『大模型笔记』RAG 系统开发中的12大痛点及解决方案

『大模型笔记』RAG 系统开发中的12大痛点及解决方案

RAG 系统开发中的12大痛点及解决方案 文章目录 问题引入一. 痛点 1：缺失内容1.1. 数据清洗的重要性1.2. 精心设计的提示（Prompt）有助于提高准确性二. 痛点 2：关键文档被遗漏2.1. 通过调整 chunk_size 和 similarity_top_k 参数优化检索效果2.2. 检索结果的优化排序三. 痛点…
阅读更多...
『大模型笔记』最大化大语言模型(LLM)的性能(来自OpenAI DevDay 会议)

『大模型笔记』最大化大语言模型(LLM)的性能(来自OpenAI DevDay 会议)

最大化大语言模型(LLM)的性能(来自OpenAI DevDay 会议) 文章目录 一. 内容介绍1.1. 优化的两个方向（上下文优化和LLM优化）1.2. 提示工程：从哪里开始1.3. 检索增强生成：拓展知识边界1.4. 微调：专属定制二. 参考文献一. 内容介绍 简述如何以可扩展的方式把大语言模型（LLMs）…
阅读更多...
Retrieval-Augmented Generation for Large Language Models: A Survey

Retrieval-Augmented Generation for Large Language Models: A Survey

PS: 梳理该 Survey 的整体框架&#xff0c;后续补充相关参考文献的解析整理。本文的会从两个角度来分析总结&#xff0c;因此对于同一种技术可能在不同章节下都会有提及。第一个角度是从整体框架的迭代来看&#xff08;对应RAG框架章节&#xff09;&#xff0c;第二个是从RAG中…
阅读更多...
LlamaParse: 高效的PDF文件RAG解析工具

LlamaParse: 高效的PDF文件RAG解析工具

LlamaParse: 高效的PDF文件RAG解析工具 通过Thomas Reid的深入探索&#xff0c;LlamaParse成为了目前我所见最优秀的RAG实现用PDF解析器。基于AI的技术&#xff0c;尤其在处理像SEC Q10这样的复杂文件时表现出色&#xff0c;这些文件通常包含文本、数字及其组合构成的表格&…
阅读更多...
RAG之微调垂域BGE的经验之谈

RAG之微调垂域BGE的经验之谈

文章目录 前言数据格式部分代码训练参数接下来的尝试总结 前言 随着大模型的爆火&#xff0c;很多垂域行业都开始使用大模型来优化自己的业务&#xff0c;最典型的方法就是RAG&#xff08;检索增强生成&#xff09;了。简单来说就是利用检索技术&#xff0c;找出与用户问题相关…
阅读更多...
【书生·浦语大模型实战营】学习笔记3

【书生·浦语大模型实战营】学习笔记3

文章目录 1. 大模型开发范式2. LangChain简介3. 构建向量数据库4. 搭建知识库助手5. Web Demo部署6. 动手实战环节环境配置知识库搭建InternLM接入LangChain构建检索问答链部署Web Demo 参考资料 1. 大模型开发范式 LLM局限性&#xff1a; 知识时效性&#xff1a;LLM无法获取最…
阅读更多...
有了RAG我们还需要微调吗?

有了RAG我们还需要微调吗?

RAG技术已经这么强大了,我们真的还需要微调吗? ©作者|Zane 来源|神州问学 引言 目前,大模型的热度居高不下,随着大模型的火爆越多的公司和组织开始使用大模型技术,往往大模型可以解决日常中的大部分问题,对于企业的私有知识的问答我们也可以通过RAG技术来进行实现,但是在…
阅读更多...
llamaindex原理与应用简介（宏观理解）

llamaindex原理与应用简介（宏观理解）

llamaindex原理与应用简介&#xff08;宏观理解&#xff09; 文章目录 llamaindex原理与应用简介&#xff08;宏观理解&#xff09; 这是我认为对于 llamaindex 应用的场景概述讲的相对比较好的视频&#xff1a;llamaindex原理与应用简介
阅读更多...
在大模型应用中，如何提升RAG（检索增强生成）的能力？

在大模型应用中，如何提升RAG（检索增强生成）的能力？

01、什么是RAG&#xff1f; RAG简单来说就是给予LLM的一些增强。 • 引入新的信息&#xff0c;这些信息可能不在LLM中。 • 使用RAG控制内容来减少幻觉&#xff08;模型生成与现实不符的输出&#xff09;&#xff0c;这是RAG的一个常见用途。通常的用例是提供内容给模型&…
阅读更多...
【文档智能 RAG】RAG增强之路-智能文档解析关键技术难点及PDF解析工具PDFlux

【文档智能 RAG】RAG增强之路-智能文档解析关键技术难点及PDF解析工具PDFlux

前言 在私域知识问答和企业知识工程领域&#xff0c;结合Retrieval-Augmented Generation&#xff08;RAG&#xff09;模型和大型语言模型&#xff08;LLM&#xff09;已成为主流方法。然而&#xff0c;企业中存在着大量的PDF文件&#xff0c;PDF解析的低准确性显著影响了基于…
阅读更多...
datawhale大模型应用开发夏令营学习笔记一

datawhale大模型应用开发夏令营学习笔记一

参考自 基于LangChainLLM的本地知识库问答&#xff1a;从企业单文档问答到批量文档问答datawhale的llm-universe 作者现在在datawhale夏令营的大模型应用开发这个班中&#xff0c;作为一个小白&#xff0c;为了能为团队做出一点贡献&#xff0c;现在就要开始学习怎么使用langch…
阅读更多...
vanna：基于RAG的text2sql框架

vanna：基于RAG的text2sql框架

文章目录 vanna简介及使用vanna的原理vanna的源码理解总结参考资料 vanna简介及使用 vanna是一个开源的利用了RAG的SQL生成python框架&#xff0c;在2024年3月已经有了5.8k的star数。 Vanna is an MIT-licensed open-source Python RAG (Retrieval-Augmented Generation) fram…
阅读更多...
ChatGLM2-6B 运行代码解读（二）

ChatGLM2-6B 运行代码解读（二）

目录 一、cli_demo.py 解读 3.1 transformers 3.2 AutoTokenizer.from_pretrained 函数 3.3 AutoModel.from_pretrained 函数 3.4 model.eval() 函数 3.5 model.stream_chat 函数 本文主要对 cli_demo.py 进行介绍。 一、cli_demo.py 解读 终端代码如下所示。 import …
阅读更多...
RAG 工业落地方案框架（Qanything、RAGFlow、FastGPT、智谱RAG）细节比对！CVPR自动驾驶最in挑战赛赛道，全球冠军被算力选手夺走了

RAG 工业落地方案框架（Qanything、RAGFlow、FastGPT、智谱RAG）细节比对！CVPR自动驾驶最in挑战赛赛道，全球冠军被算力选手夺走了

RAG 工业落地方案框架&#xff08;Qanything、RAGFlow、FastGPT、智谱RAG&#xff09;细节比对&#xff01;CVPR自动驾驶最in挑战赛赛道&#xff0c;全球冠军被算力选手夺走了。 本文详细比较了四种 RAG 工业落地方案 ——Qanything、RAGFlow、FastGPT 和智谱 RAG&#xff0c;重…
阅读更多...
选微调、RAG还是微调+RAG？

选微调、RAG还是微调+RAG？

RAG技术是一种结合了检索与生成的方法。它通常依赖于两个核心组件&#xff1a;一个大型语言模型&#xff08;如GPT-3&#xff09;和一个检索系统&#xff08;如向量数据库&#xff09;。RAG先使用检索系统从大量数据中检索出相关信息&#xff0c;然后将这些信息提供给语言模型&…
阅读更多...
RAG理论：ES混合搜索BM25+kNN(cosine)以及归一化

RAG理论：ES混合搜索BM25+kNN(cosine)以及归一化

接前一篇:RAG实践：ES混合搜索BM25+kNN(cosine) https://blog.csdn.net/Xin_101/article/details/140230948 本文主要讲解混合搜索相关理论以及计算推导过程， 包括BM25、kNN以及ES中使用混合搜索分数计算过程。 详细讲解： （1）ES中如何通过BM25计算关键词搜索分数； （2）…
阅读更多...
LangChain4j系列：带你入门LangChain4j框架

LangChain4j系列：带你入门LangChain4j框架

本文所有示例均在 langchain4j 0.31.0 版本之上进行&#xff0c;langchain4j也是在快速发展的阶段。 LangChain4j 框架是什么&#xff1f; LangChain4j 于 2023 年初在 ChatGPT 的炒作中开始开发。思想来源于 Python 和 JavaScript LLM 库&#xff0c;并加入创新思想&#xff…
阅读更多...
AI推介-大语言模型LLMs之RAG（检索增强生成）论文速览（arXiv方向）：2024.06.01-2024.06.20

AI推介-大语言模型LLMs之RAG（检索增强生成）论文速览（arXiv方向）：2024.06.01-2024.06.20

文章目录&#xff5e; 1.StackRAG Agent: Improving Developer Answers with Retrieval-Augmented Generation2.FoRAG: Factuality-optimized Retrieval Augmented Generation for Web-enhanced Long-form Question Answering3.Model Internals-based Answer Attribution for T…
阅读更多...
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[3]-参数配置详细版

基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[3]-参数配置详细版

基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[3]-参数配置详细版 在开始参数配置之前，先执行以下脚本 python copy_config_example.py该脚本将会将所有config目录下的配置文件样例复制一份到config目录下，方便开发者进行配置。 接着，开发者可以根据自己的需求，对…
阅读更多...
[论文笔记]涨点近5%! 以内容中心的检索增强生成可扩展的级联框架:Pistis-RAG

[论文笔记]涨点近5%! 以内容中心的检索增强生成可扩展的级联框架:Pistis-RAG

引言 今天带来一篇较新RAG的论文笔记&#xff1a;Pistis-RAG: A Scalable Cascading Framework Towards Content-Centric Retrieval-Augmented Generation。 在希腊神话中&#xff0c;Pistis象征着诚信、信任和可靠性。受到这些原则的启发&#xff0c;Pistis-RAG是一个可扩展…
阅读更多...
PDF 中图表的解析探究

PDF 中图表的解析探究

PDF 中图表的解析探究 0. 引言1. 开源方案探究 0. 引言 一直以来&#xff0c;对文档中的图片和表格处理都非常有挑战性。这篇文章记录一下最近工作上在这块的探究。图表分为图片和表格&#xff0c;这篇文章主要记录了对表格的探究。还有&#xff0c;我个人主要做日本项目&…
阅读更多...
轻松搭建RAG：澳鹏RAG开发工具

轻松搭建RAG：澳鹏RAG开发工具

我们很高兴地宣布推出RAG开发工具&#xff0c;这是澳鹏大模型智能开发平台的一项新功能。此功能可帮助团队轻松创建高质量的检索增强生成 (RAG) 模型。 什么是 RAG&#xff1f; 检索增强生成 (RAG) 通过利用大量外部数据源&#xff08;例如企业的知识库&#xff09;显著增强了…
阅读更多...
RAG的上限在哪里？边界在哪里？

RAG的上限在哪里？边界在哪里？

随着大模型的火热&#xff0c;RAG也重出江湖&#xff0c;成为AI产品中最火热的成员之一。特别是2024年到现在&#xff0c;越来越多的RAG产品出现在gitlib 上。 世人皆知RAG&#xff0c;唯独不知RAG的能力边界。 RAG用一句话&#xff1a;入门&#xff08;demo跑通整个流程&#…
阅读更多...
探索GraphRAG：构建高效的知识图谱索引与查询引擎

探索GraphRAG：构建高效的知识图谱索引与查询引擎

GraphRAG系统简介 GraphRAG是一个基于图的检索增强生成系统&#xff0c;它通过索引文本数据&#xff0c;然后使用这些索引数据来回答有关文档的问题。系统的核心在于其索引管道和查询引擎&#xff0c;它们共同工作&#xff0c;以提供快速且准确的信息检索服务。 环境准备 在…
阅读更多...
认识并使用LlamaIndex

认识并使用LlamaIndex

认识并使用LlamaIndex 一、认识LlamaIndex1、是什么2、为什么要搞Llama Index&#xff1f;3、怎么搞Llama Index&#xff1f;3.1 方案1&#xff1a;用你的数据对LLM进行微调&#xff08;fine-tune&#xff09;3.2 方案2&#xff1a;[检索增强生成&#xff08;RAG&#xff09;](…
阅读更多...
【LLM大模型】一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）

【LLM大模型】一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）

引言 针对大型语言模型效果不好的问题&#xff0c;之前人们主要关注大模型再训练、大模型微调、大模型的Prompt增强&#xff0c;但对于专有、快速更新的数据却并没有较好的解决方法&#xff0c;为此检索增强生成&#xff08;RAG&#xff09;的出现&#xff0c;弥合了LLM常识和…
阅读更多...
使用Mamba和Qdrant数据库实现RAG的代码示例

使用Mamba和Qdrant数据库实现RAG的代码示例

Mamba挑战了Transformers设定的传统规范&#xff0c;特别是在处理长序列方面。Mamba以其选择性状态空间脱颖而出&#xff0c;融合了lstm的适应性和状态空间模型的效率。 我们今天来研究一下RAG、Mamba和Qdrant的协同工作&#xff0c;它们的有效组合保证了效率和可扩展性。 Mam…
阅读更多...
TS版LangChain实战：基于文档的增强检索（RAG） | 京东云技术团队

TS版LangChain实战：基于文档的增强检索（RAG） | 京东云技术团队

LangChain LangChain是一个以 LLM &#xff08;大语言模型&#xff09;模型为核心的开发框架&#xff0c;LangChain的主要特性&#xff1a; 可以连接多种数据源&#xff0c;比如网页链接、本地PDF文件、向量数据库等允许语言模型与其环境交互封装了Model I/O&#xff08;输入…
阅读更多...
PyLMKit(5):基于网页知识库的检索增强生成RAG

PyLMKit(5):基于网页知识库的检索增强生成RAG

基于网页知识库的检索增强生成RAG 0.项目信息 日期&#xff1a; 2023-12-2作者&#xff1a;小知课题: RAG&#xff08;Retrieval-Augmented Generation&#xff0c;检索增强生成&#xff09;是一种利用知识库检索的方法&#xff0c;提供与用户查询相关的内容&#xff0c;从而…
阅读更多...
【RAG实践】Rerank，让大模型 RAG 更近一步

【RAG实践】Rerank，让大模型 RAG 更近一步

RAGRerank原理 上一篇【RAG实践】基于LlamaIndex和Qwen1.5搭建基于本地知识库的问答机器人 我们介绍了什么是RAG&#xff0c;以及如何基于LLaMaIndex和Qwen1.5搭建基于本地知识库的问答机器人&#xff0c;原理图和步骤如下&#xff1a; 这里面主要包括包括三个基本步骤&#…
阅读更多...
使用python快速开发与PDF文档对话的Gemini聊天机器人

使用python快速开发与PDF文档对话的Gemini聊天机器人

检索增强生成(Retrieval-augmented generation&#xff0c;RAG)使得我们可以让大型语言模型(LLMs)访问外部知识库数据(如pdf,word、text等)&#xff0c;从而让人们可以更加方便的通过LLM来学习外部数据的知识。今天我们将利用之前学习到的RAG方法&#xff0c;谷歌Gemini模型和l…
阅读更多...
RAG Fusion 的简单尝试

RAG Fusion 的简单尝试

RAG Fusion 的简单尝试 0. RAG Fusion 是什么1. 示例代码 0. RAG Fusion 是什么 RAG-Fusion是一个旨在弥合传统搜索模式与人类查询的多面维度之间差距的搜索方法。它受到增强检索生成(RAG)能力的启发,通过采用多种查询生成和互补排序融合来重新排列搜索结果,使之更进一步。 用…
阅读更多...
使用Llama index构建多代理 RAG

使用Llama index构建多代理 RAG

检索增强生成(RAG)已成为增强大型语言模型(LLM)能力的一种强大技术。通过从知识来源中检索相关信息并将其纳入提示&#xff0c;RAG为LLM提供了有用的上下文&#xff0c;以产生基于事实的输出。 但是现有的单代理RAG系统面临着检索效率低下、高延迟和次优提示的挑战。这些问题在…
阅读更多...
为企业知识库选模型？全球AI大模型知识库RAG场景基准测试排名

为企业知识库选模型？全球AI大模型知识库RAG场景基准测试排名

大语言模型常见基准测试 大家对于AI模型理解和推理能力的的基准测试一定非常熟悉了&#xff0c;比如MMLU&#xff08;大规模多任务语言理解&#xff09;、GPQA&#xff08;研究生级别知识问答&#xff09;、GSMSK&#xff08;研究生数学知识考察&#xff09;、MATH&#xff08…
阅读更多...
ES向量功能实战：向量搜索

ES向量功能实战：向量搜索

1 缘起 项目需要&#xff0c;向量搜索使用ES&#xff0c;为了顺利使项目顺利交付&#xff0c;开始学习ES的稠密向量功能&#xff0c;本文即ES向量的实践&#xff1a;增删查改。ES从7.x版本支持向量功能&#xff0c;为测试ES向量功能&#xff0c;需要使用7.x及以上的版本。本文…
阅读更多...
FastGPT 报错：undefined 该令牌无权使用模型：gpt-3.5-turbo (request id: xxx)

FastGPT 报错：undefined 该令牌无权使用模型：gpt-3.5-turbo (request id: xxx)

目录 一、FastGPT 报错 二、解决方法 一、FastGPT 报错 进行对话时 FastGPT 报错如下所示。 [Error] 2024-07-01 09:25:23 sse error: undefined 该令牌无权使用模型：gpt-3.5-turbo (request id: xxxxx) {message: 403 该令牌无权使用模型：gpt-3.5-turbo (request id: x…
阅读更多...
大型语言模型的语义搜索(一)：关键词搜索

大型语言模型的语义搜索(一)：关键词搜索

关键词搜索(Keyword Search)是文本搜索种一种常用的技术&#xff0c;很多知名的应用app比如Spotify、YouTube 或 Google map等都会使用关键词搜索的算法来实现用户的搜索任务&#xff0c;关键词搜索是构建搜索系统最常用的方法&#xff0c;最常用的搜索算法是Okapi BM25&#x…
阅读更多...
如何使用HippoRAG增强LLM的记忆

如何使用HippoRAG增强LLM的记忆

大型语言模型&#xff08;LLM&#xff09;已经证明是一种非常宝贵的思考工具。经过大量文本、代码和其他媒体数据集的训练&#xff0c;它们能够创作出接近人类水平的文章、翻译语言、生成图像&#xff0c;还能以信息丰富的方式回答人们提出的问题&#xff0c;甚至可以编写不同类…
阅读更多...
三款顶级开源RAG (检索增强生成)工具：Verba、Unstructured 和 Neum

三款顶级开源RAG (检索增强生成)工具：Verba、Unstructured 和 Neum

三款顶级开源RAG (检索增强生成)工具&#xff1a;Verba、Unstructured 和 Neum 概述 随着企业对话式数据处理需求的提升&#xff0c;面临的挑战是数据隐私性和缺乏企业级解决方案。虽然类似LangChain能在短时间内构建RAG应用&#xff0c;但忽视了文档解析、多来源数据ETL、批量…
阅读更多...
【LLM指令微调】长话短说大模型指令微调的“Prompt”

【LLM指令微调】长话短说大模型指令微调的“Prompt”

1 指令微调数据集形式“花样”太多 大家有没有分析过 prompt对模型训练或者推理的影响&#xff1f;之前推理的时候&#xff0c;发现不加训练的时候prompt&#xff0c;直接输入模型性能会变差的&#xff0c;这个倒是可以理解。假如不加prompt直接训练&#xff0c;是不是测试的时…
阅读更多...
RAG应用-七个最常见的故障点

RAG应用-七个最常见的故障点

近日&#xff0c;国外研究者发布了一篇论文《Seven Failure Points When Engineering a Retrieval Augmented Generation System》&#xff0c;探讨了在实际工程落地RAG应用过程中容易出的七类问题。 论文地址&#xff1a;https://arxiv.org/pdf/2401.05856.pdf 一、丢失内容&…
阅读更多...
『大模型笔记』GraphRAG：利用复杂信息进行发现的新方法！

『大模型笔记』GraphRAG：利用复杂信息进行发现的新方法！

GraphRAG：利用复杂信息进行发现的新方法！ 文章目录 一. GraphRAG：利用复杂信息进行发现的新方法！1. 将RAG应用于私人数据集2. 整个数据集的推理3. 创建LLM生成的知识图谱4. 结果指标5. 下一步二. 参考文献微软官方推文：https://www.microsoft.com/en-us/research/blog/gra…
阅读更多...
【大模型】FAISS向量数据库记录：从基础搭建到实战操作

【大模型】FAISS向量数据库记录：从基础搭建到实战操作

文章目录 文章简介Embedding模型BGE-M3 模型亮点 FAISS是什么FAISS实战安装faiss加载Embedding模型创建FAISS数据库搜索FAISS数据删除FAISS数据保存、加载FAISS索引 总结 本人数据分析领域的从业者&#xff0c;拥有专业背景和能力&#xff0c;可以为您的数据采集、数据挖掘和数…
阅读更多...

Copyright @ 2022~2023