首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#LLM

案例验证:分析NCCL-Tests运行日志优化Scale-Out网络拓扑

星融元Asterfusion

GPU并行计算中需要大规模地在计算节点之间同步参数梯度,产生了大量的集合通信流量。为了优化集合通信性能,业界开发了不同的集合通信库(xCCL),其核心都是实现 ...

2600

基于🦜☕️ LangChain4j 实现问答机器人

花花Binki

通华科技(大连) | 后端开发 (已认证)

如今的大语言模型(Large Language Model,简称LLM),无论是在底层的基座,还是下游的应用都取得了很大的成功。其中,在2022年同期发布的 L...

2110

LLM 视觉语言模型在动作识别中是否有效?

AIGC 先锋科技

近年来,得益于大规模预训练,许多视觉语言基础模型在许多下游视觉任务上取得了显著成果,展现出了强大的泛化能力。其中,具有视觉语言预训练的模型,如 CLIP 及其在...

7510

ChatGPT 样本提示指令全解析:提升交互效果的关键技巧

写bug的高哈哈

通过设计过的 prompt 样本提示指令,我们能够更有效地发挥模型的能力,选择更合适的生成方式,并进一步优化回答的品质和相关性。它不仅增加了我们与 LLM 模型...

8810

Dynaseal:面向未来端侧llm agent的llm api key分发机制 - plus studio - StudyingLover

plus sign

腾讯科技(深圳)有限公司 | 星火计划成员 (已认证)

LLM_USER_ID 是业务后端在 llm 服务端注册的用户的 id,LLM_KEY 是业务后端在 llm 服务端注册的用户申请到的密钥

5010

大模型应用系列:Query 变换的示例浅析

半吊子全栈工匠

【引】NLP中的经典组件在大模型应用中还有效么?大模型对自然语言处理中的典型任务有什么影响么?

2000

解密prompt系列42. LLM通往动态复杂思维链之路

风雨中的小七

最近大家都在探讨和尝试复现OpenAI O1的思考效果,解码出的关键技术方向,包括之前已经探讨过的Inference Time Scaling在推理过程中进行路...

19230

一文读懂 LLM Gateway 点滴

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下 LLM(大型语言模型) 生态相关技术:LLM Gateway - LLM 网关。

9210

一文读懂如何基于Ollama在本地运行LLM

Luga Lee

在当今人工智能技术飞速发展的时代,大型语言模型(LLM)无疑已成为焦点炯炯的科技明星。自从ChatGPT的推出以来,其强大的自然语言理解和生成能力便惊...

9610

一文读懂本地运行 LLM 的最佳实践方法

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下人工智能(AI)生态领域相关的技术 - LLM -常见的本地运行 LLM 方法。

10610

一文读懂 LLM 的构建模块:向量、令牌和嵌入

Luga Lee

LLM Tokens 是 LLM 中的一个关键概念,直接影响着模型的输入表示和计算效率。作为一种文本数据在模型内部的表示形式,在文本上下文中,令牌可以是单词、单...

10810

LLM Hallucinations:AI 的进化 or 技术缺陷?

Luga Lee

Hello folks,我是 Luga,今天我们继续来聊一下人工智能(AI)生态领域相关的技术 - LLM Hallucinations ,本文将继续聚焦在针对...

9210

一文解析如何基于 LangChain 构建 LLM 应用程序

Luga Lee

在日新月异的人工智能领域,语言模型已经成为舞台主角,重新定义了人机交互的方式。ChatGPT 的广泛认可以及 Google 等科技巨头纷纷推出类似产品...

11510

华东师范 & 蚂蚁集团提出 E2LLM | 嵌入式扩展 LLM 大语言模型,用于长篇理解和推理 !

AIGC 先锋科技

理解并推理长序列对于大语言模型(LLMs)至关重要,尤其是在像多轮对话、代码生成、多文本文档总结和问答等任务中。这些任务通常需要处理成千或甚至数百万个 Toke...

11910

LLM-Mixer 用于时间序列预测的LLMs中的多尺度混合,性能SOTA !

AIGC 先锋科技

时间序列预测在众多领域中具有重要意义,包括金融、能源管理(马丁等,2010年)、医疗保健、气候科学(穆德,2019年)和工业运营(王等,2020年)。传统的预测...

8710

SMU/NUS/复旦/南洋理工提出简单而有趣的解决方案 , LLM 大型语言模型中的逆向建模 !

AIGC 先锋科技

近年来,许多自然语言处理任务(NLP)和超出NLP范畴的能力得到了令人瞩目的表现。这些能力主要归因于学习涵盖了通用世界知识的广泛语料库。这些语料库是人类社会创造...

11610

通过调整LLM提示定义AI代理角色

云云众生s

在 AI 代理开发中,您可以使用可用于大型语言模型 (LLM) 和视觉语言模型 (VLM) 的系统提示,为代理添加角色。

8510

从大模型的原理到提示词优化

xindoo

贝壳 | 资深工程师 (已认证)

  大语言模型(后文简称LLM)已经火热了近两年,相信大家或多或少都学习过一些Prompt技巧。但你有没有思考过:为什么使用这些Prompt能得到更好的输出结...

18710

多模态 LLM 中的跳过计算 ,通过跳过整个块、FFN层甚至单个神经元,可以实现计算的巨大减少 !

AIGC 先锋科技

大型语言模型(LLMs)是人类达到智能水平的重要一步。这些模型能够在几乎所有人类可以完成任何文本任务上达到合理的分数。

13210
领券