LangChain for LLM Application Development
LangChain大模型应用开发 课程笔记大纲
https://learn.deeplearning.ai/langchain
2 模型、提示词和参数
提示与解析器配合使用，以提取带有这些特定关键词标记的文本。
例：使用LangChain解析LLM的JSON输出
3 Memory 记忆
1、携带记忆进行对话
ConversationChat
2、模型本身是无状态的，只是内存记录了全部的上下文，使得模型知道上下文的内容。（需要更大的Token量）
ConversationBufferWindowMemory
3、限制Token的对话
ConversantionTokenBufferMemory
4、使用语言模型来编写到目前为止的对话摘要，并将其作为记忆
ConversantionSummaryBufferMemory
存入内存/数据库
4 Chains 链
可以使用pandas加载数据
1、LLM Chains
最基本的类型 LLM+Prompt
2、Sequential Chains 顺序链
单输入/多输入
基本思想： output of chain 1 = input of chain 2
3、Router Chain
5 Question and Answer Over Documents
将语言模型与未训练的数据进行结合
嵌入embedding和向量vector
1、以CSV为例
LLM's on Documents
LLM只能一次只能检查几千个词
Vector Database 向量数据库
2、Stuff method
3、additional methods
多种不同类型的处理 1、map_reduce 2、Refine(基于前一个文档回答) 3、Map_rerank(评分)
6 Evaluating LLM Applications 评估大模型应用
目测/用一个模型衡量另一个模型或链
自动化评估（？）持久化跟踪输出、创建数据集
7 Agents 代理
LangChain代理功能：使用外部工具
- 数学工具
- wikipedia API
- PythonREPLTool
自定义工具连接自己的数据源、信息、API