风雨中的小七

腾讯云

开发者社区

文档意见反馈控制台

首页TVP

LV3

发表了文章 11天前2023-11-29 08:08:55

解密Prompt系列20. LLM Agent 之再谈RAG的召回多样性优化

几个月前我们就聊过RAG的经典方案解密Prompt系列14. LLM Agent之搜索应用设计。前几天刚看完openAI在DevDay闭门会议上介绍的RAG相关...

风雨中的小七 11天前2023-11-29 08:08:55

NLP 服务、LLM、2023腾讯·技术创作特训营第三期

发表了文章 25天前2023-11-15 08:20:24

解密Prompt系列19. LLM Agent之数据分析领域的应用：Data-Copilot & InsightPilot

在之前的 LLM Agent+DB 的章节我们已经谈论过如何使用大模型接入数据库并获取数据，这一章我们聊聊大模型代理在数据分析领域的应用。数据分析主要是指在获取...

风雨中的小七 25天前2023-11-15 08:20:24

2023腾讯·技术创作特训营第三期、NLP 服务、prompt、LLM、第二期热点征文-人工智能

发表了文章 2023-10-262023-10-26 08:35:42

解密Prompt系列18. LLM Agent之只有智能体的世界

重新回来聊Agent，前四章的LLM Agent，不论是和数据库和模型还是和搜索引擎交互，更多还是大模型和人之间的交互。这一章我们来唠唠只有大模型智能体的世界！...

风雨中的小七 2023-10-272023-10-27 20:25:06

NLP 服务、chatgpt、prompt、自然语言处理、第二期热点征文-人工智能

发表了文章 2023-10-122023-10-12 08:19:44

解密Prompt系列17. LLM对齐方案再升级 WizardLM & BackTranslation & SELF-ALIGN

话接上文的指令微调的样本优化方案，上一章是通过多样性筛选和质量过滤，对样本量进行缩减，主打经济实惠。这一章是通过扩写，改写，以及回译等半监督样本挖掘方案对种子样...

风雨中的小七 2023-10-262023-10-26 19:55:24

自然语言处理、2023腾讯·技术创作特训营第二期、第二期热点征文-人工智能、NLP 服务、prompt

发表了文章 2023-09-272023-09-27 08:10:17

解密Prompt系列16.LLM对齐经验之数据越少越好？LTD & LIMA & AlpaGasus

LLM Agent中间插个队，总结下指令微调、对齐数据相关的方案，已经凑够7篇论文可以召唤神龙啦！Data-Centric的观点比较一致：指令微调也就是对齐阶段...

风雨中的小七 2023-10-052023-10-05 09:13:11

NLP 服务、prompt、自然语言处理、2023腾讯·技术创作特训营第二期

发表了文章 2023-09-142023-09-14 08:04:04

解密Prompt系列15. LLM Agent之数据库应用设计：DIN & C3 & SQL-Palm & BIRD

上一章我们主要讲搜索引擎和LLM的应用设计，这一章我们来唠唠大模型和DB数据库之间的交互方案。有很多数据平台已经接入，可以先去玩玩再来看下面的实现方案，推荐

风雨中的小七 2023-09-142023-09-14 07:39:45

chatgpt、prompt、NLP 服务、agent

发表了文章 2023-08-312023-08-31 08:01:39

解密Prompt系列14. LLM Agent之搜索应用设计：WebGPT & WebGLM & WebCPM

前两章，我们分别介绍了基于微调和prompt的工具调用方案，核心都是如何让大模型和工具进行交互，包括生成工具调用语句和处理工具调用请求。不过在实际应用中，想要设...

风雨中的小七 2023-08-312023-08-31 07:34:32

NLP 服务、agent、nlp、prompt

发表了文章 2023-08-152023-08-15 08:08:03

解密Prompt系列13. LLM Agent指令微调方案: Toolformer & Gorilla

上一章我们介绍了基于Prompt范式的工具调用方案，这一章介绍基于模型微调，支持任意多工具组合调用，复杂调用的方案。多工具调用核心需要解决3个问题，在哪个位置进...

风雨中的小七 2023-08-152023-08-15 07:36:37

NLP 服务、nlp、prompt、LLM

发表了文章 2023-07-272023-07-27 08:45:33

解密Prompt系列12. LLM Agent零微调范式 ReAct & Self Ask

其次是模型赋能我们，Agent加持的大模型，作为更优的数据和任务中介/代理，赋予了我们和任意数据类型交互的能力，大模型正在重构数据和信息的处理方式。从之前的结构...

风雨中的小七 2023-08-152023-08-15 08:14:30

NLP 服务、chatgpt、nlp、prompt、自然语言处理

发表了文章 2023-07-132023-07-13 11:03:14

解密Prompt系列11. 小模型也能思维链推理

前两章我们分别介绍了思维链的多种使用方法以及思维链(COT)的影响因素。这一章更多面向应用，既现实场景中考虑成本和推理延时，大家还是希望能用6B的模型就不用10...

风雨中的小七 2023-07-142023-07-14 21:01:26

nlp、自然语言处理、NLP 服务、prompt

发表了文章 2023-06-292023-06-29 10:23:31

解密Prompt系列10. 思维链COT原理探究

前一章思维链基础和进阶玩法我们介绍了如何写Chain-of-thought Prompt来激活生成逐步推理，并提高模型解决复杂问题的能力，这一章我们追本溯源，讨...

风雨中的小七 2023-07-152023-07-15 10:31:13

nlp、prompt、自然语言处理、NLP 服务

发表了文章 2023-06-142023-06-14 10:27:10

解密Prompt系列9. 模型复杂推理-思维链基础和进阶玩法

这一篇真的是解密prompt！我们会讨论下思维链(chain-of-Thought)提示词究竟要如何写，如何写的更高级。COT其实是Self-ASK，ReACT...

风雨中的小七 2023-07-152023-07-15 10:30:51

nlp、自然语言处理、prompt、NLP 服务

发表了文章 2023-06-122023-06-12 10:39:40

解密Prompt系列8. 无需训练让LLM支持超长输入:知识库 & Unlimiformer & PCW & NBCE

这一章我们聊聊有哪些方案可以不用微调直接让大模型支持超长文本输入，注意这里主要针对无限输入场景。之前在BERT系列中我们就介绍过稀疏注意力和片段递归的一些长文本...

风雨中的小七 2023-07-152023-07-15 10:30:24

nlp、prompt、自然语言处理、NLP 服务

发表了文章 2023-05-212023-05-21 11:51:43

解密Prompt7. 偏好对齐RLHF-OpenAI·DeepMind·Anthropic对比分析

前三章都围绕指令微调，这一章来唠唠RLHF。何为优秀的人工智能？抽象说是可以帮助人类解决问题的AI, 也可以简化成3H原则：Helpful + Honesty ...

风雨中的小七 2023-05-212023-05-21 11:51:43

prompt、自然语言处理、chatgpt、强化学习、nlp

发表了文章 2023-04-292023-04-29 15:25:41

解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~

上一章介绍了如何基于APE+SELF自动化构建指令微调样本。这一章咱就把微调跑起来，主要介绍以Lora为首的低参数微调原理，环境配置，微调代码，以及大模型训练中...

风雨中的小七 2023-04-292023-04-29 15:25:41

prompt、nlp、chatgpt

发表了文章 2023-04-092023-04-09 16:38:40

解密prompt系列5. APE+SELF=自动化指令集构建代码实现

上一章我们介绍了不同的指令微调方案, 这一章我们介绍如何降低指令数据集的人工标注成本！这样每个人都可以构建自己的专属指令集, 哈哈当然我也在造数据集进行时~

风雨中的小七 2023-04-092023-04-09 16:38:40

prompt、nlp、NLP 服务

发表了文章 2023-03-242023-03-24 09:30:11

解密Prompt系列4. 升级Instruction Tuning：Flan/T0/InstructGPT/TKInstruct

这一章我们聊聊指令微调，指令微调和前3章介绍的prompt有什么关系呢？哈哈只要你细品，你就会发现大家对prompt和instruction的定义存在些出入，部...

风雨中的小七 2023-03-242023-03-24 21:48:16

nlp、NLP 服务、prompt

发表了文章 2023-03-102023-03-10 08:31:13

解密Prompt系列3. 冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning

这一章我们介绍在下游任务微调中固定LM参数，只微调Prompt的相关模型。这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替...

风雨中的小七 2023-03-102023-03-10 08:31:13

NLP 服务、github、git、开源

发表了文章 2023-03-062023-03-06 15:46:46

解密Prompt系列2. 冻结Prompt微调LM： T5 & PET & LM-BFF

这一章我们介绍固定prompt微调LM的相关模型，他们的特点都是针对不同的下游任务设计不同的prompt模板，在微调过程中固定模板对预训练模型进行微调。以下按时...

风雨中的小七 2023-03-062023-03-06 15:46:46

label、lm、mask、prompt、token

发表了文章 2023-03-062023-03-06 15:46:07

解密Prompt系列1. Tunning-Free Prompt：GPT2 & GPT3 & LAMA & AutoPrompt

借着ChatGPT的东风，我们来梳理下prompt范式的相关模型。本系列会以A Systematic Survey of Prompting Methods i...

风雨中的小七 2023-03-062023-03-06 15:46:07

NLP 服务

12 3 4 5 下一页

个人简介

暂未填写公司和职称
想做健身博主的算法工程师
NLP 服务机器学习数据挖掘
columbia university | operation research
https://www.cnblogs.com/gogoSandy/
北京

个人成就

获得 308 次赞同
文章被阅读 121.5K 次
文章获得 37 次首页推荐

关注了：1关注者：305