AIOT-腾讯云开发者社区

开发者社区

文档建议反馈控制台

腾讯云架构师技术同盟

文章/答案/技术大牛

发布

AIOT

智能边缘计算

专栏成员

26

文章

7414

阅读量

16

订阅数

为什么说NVIDIA 黄仁勋 CES演讲引领人工智能未来五年发展方向？

北京时间1月7日早上10点30，NVIDIA黄仁勋身穿新皮衣等上CES的讲台，发表CES开幕演讲。将近1个小时40分钟的演讲里，黄仁勋再次给大家描述了人工智能未来发展蓝图。

2025-01-07

1560

在Jetson上玩转大模型Day17：NanoLLM开发平台(6)：AI Agent功能

例如我们前面搭建的Llamaspeak语音智能助手项目中，并非单纯地选择不同大语言模型来作为智能核心就完成了，我们还需要结合很多其他配套技术，包括音频输入/输出的websocket或usb/i2s技术、数据传输技术（gRPC）、语音识别技术（RIVA ASR）、语音合成技术（Piper TTS）等等。

2024-12-17

1530

在Jetson上玩转大模型Day16：NanoLLM开发平台(5)：视觉数据库分析助手

前面使用NanoLLM的vision.video功能来分析视频或摄像头画面，是一种非常轻便的方法，但是互动性不足，主要是演示视频处理的能力。

2024-12-03

980

在Jetson上玩转大模型Day14：NanoLLM开发平台(3)：多模态语音助手

上一篇文章里，我们使用NanoLLM所提供的nano_llm.agents.web_chat智能体，调用Llama-3-8B-Instruct模型，并修改ASR与TTS调用的档来支持中文的输入与输出，非常轻松地搭建Llamaspeak语音助手。

2024-11-21

1590

在Jetson上玩转大模型Day12：NanoLLM开发平台(2)：语音对话助手

前面已经简单介绍过在Jetson AI Lab所提供的NanoLLM开发平台上的API基本内容，使用这些API可以非常轻松地开发并整合比较复杂的应用，现在就用一个比较具有代表性的Llamaspeak对话机器人项目，做个简答的比较。

2024-11-18

1450

在Jetson上玩转大模型Day12：NanoLLM開發平臺(1)：Python API接口說明

我們在前面所介紹的各項應用，包括SAM、OWL-Vit、Text-Generation-Webui、stable-diffusion-webui等等，都是基於個別項目環境去搭建，目的是讓讀者比較輕鬆地掌握不同技能的知識。但是這種方式對於要開發一個實用的應用系統來說，就顯得過於零碎，並且難以整合，這又不符合我們一開始所設定的目標，因此提供一套更有系統的開發環境，就變得非常重要。

2024-11-18

910

在Jetson上玩转大模型Day11：SAM2应用

nvidia 边缘计算

有经验的人都很清楚这四种算法之间的差异与所需的对应算力之间的关系。事实上，在医疗、工程、航天、自动驾驶等很多使用价值高的应用场景中，对于分割技术的需求是非常明显的。

2024-11-08

1990

在Jetson上玩转大模型Day10：OWL-ViT应用

嵌入式 nvidia

做过机器视觉模型训练的人都知道，最耗时费力的阶段，就是对图片集进行标注的环节，这通常必须交由人力来进行，很难交给计算机去自动化标注，因此这个阶段也是除了采购设备之外，成本最高的环节。

2024-11-05

2310

在Jetson上玩转大模型Day9：建立EffectiveViT测试环境

雖然DCNN深度卷積神經網絡在2010年代爲視覺AI技術開創新格局，但實用性受到很大的限制。後來受到NLP在Transformer技術的突破，對視覺技術產生非常大的衝擊，於是Google在2021年提出的ViT（Vision Transform）技術，對機器視覺上的圖片分類、物體檢測、語義分割等應用，產生非常大的變化，不僅在效能上有所突破，並且爲視覺與大語言模型相結合的多模態技術，開創新的格局。

2024-11-01

730

在Jetson上玩转大模型Day8：多模態搜圖的NanoDB

AI 這個項目是一个CUDA优化的多模态向量数据库，使用CLIP vision Transformer 中的嵌入模型进行txt2img和img2img相似性搜索，實現下面的“以文找圖”與“以圖找圖”的功能，這對現代人來說是一項福音，因爲大部分人總是困擾着，得在一堆圖片中找到所需要的目標，但是文件名能表達的意義有太有限。

2024-10-30

1160

在Jetson上玩转大模型Day7：執行RAG功能的Jetson Copilot

嵌入式 nvidia 第四期热点征文-大模型技术

在前面的大語言模型測試過程，一定會發現這些智能助手都存在一些“胡言亂語”、“答非所問”之類的狀況，其實可以將它視爲“不瞭解邊界”的小孩童一樣，因爲所有人工智能模型，都是再它的知識庫中，尋找“機率最高”的答案，很有可能這個答案的正確率還不到5%，但它不能回答“不知道”，必須找到一組以上的回覆（response），即便其正確率並不高。

2024-10-29

1120

在Jetson上玩转大模型Day6：Ollama的Webui智能助手

前面已經教會大家很輕鬆地使用 Ollama 搭建一個在指令終端的交互式智能助手，但這種操作模式畢竟比較粗糙，而且只能在一臺機器上使用，實用性並不高，如果能搭建一個Web界面的智能助手，並且可以讓局域網裏的其他人一起使用的話，就能大大提高這個項目的實用價值。

2024-10-28

1780

在Jetson上玩转大模型Day5：Ollama指令模式的智能助手

本系列第3期文章，在Jetson Orin Nano上使用text-generation-webui项目搭建智能助手，十分轻松。但是大部分入门者都会在“选择模型”、“下载模型”以及选择“加载器”这三部分，遭遇比较大的障碍，毕竟要在几万个开源模型中找到合适的，犹如大海捞针一般地困难，再加上Orin Nano只有8GB显存的限制，能执行的大语言模型相当有限。

2024-10-27

4740

在Jetson上玩转大模型Day4：SDW文生图

透过prompt提示词来生成图片，一直是生成式AI中最受欢迎的应用，而Stable Diffusion算法应该这方面开源项目中的翘楚。事实上这个SDW项目也是我们前一篇文字TGW的基石，目前在Github上已经获得将近14万个星以及超过2.6万个folks，受欢迎程度远远超过TGW项目。

2024-10-24

1190

在Jetson上玩转大模型Day2：环境搭建

nvidia 第四期热点征文-大模型技术

由NVIDIA资深工程师DustinFranklin为Jetson设备所搭建的jetson-container开发环境，以Docker容器为基础去提供各种所需的应用环境，这还需要nvidia-docker的配合，所幸Jetpack安装工具已经都配置完成了。

2024-10-22

3490

JetPack 6.1震撼发布：为NVIDIA Jetson Orin平台注入全新活力！

嵌入式系统

中国的用户还沉浸在国庆长假时，英伟达宣布JetPack 6.1的正式版发布，这是一次重大升级，包含了Jetson Linux 36.4 17、Linux Kernel 5.15以及基于Ubuntu 22.04的根文件系统。此版本专为提升NVIDIA Jetson Orin模块和开发者套件的性能与功能而设计，为AI和边缘计算应用提供了强大且多功能的软件环境。

2024-10-03

7400

从火灾检测到智能监控：Jetson Orin与生成式AI的完美搭配

在智能监控领域，NVIDIA Jetson Orin结合生成式AI正在开辟新的可能性。这篇文章将深入探讨如何利用NVIDIA Metropolis微服务套件，通过云原生的方法构建强大的边缘AI应用程序，以及如何使用生成式AI实现更智能的监控系统，特别是在火灾检测和应急响应方面。

2024-08-21

3330

Jetson开发者必装的一个实用工具

当你在Jetson边缘设备上开发，想知道CPU和GPU的使用率，想知道现在功耗是多少，或者想知道运行温度是多少，那么这个工具就非常重要了！

2024-08-08

4020

我主要的使用设备：NVIDIA Jetson AGX Orin开发套件开箱

继续上一篇我介绍了NVIDIA Jetson Orin NANO开发套件开箱后，我再介绍一下Jetson AGX Orin开发套件。

2024-08-07

4890

我主要使用的设备：Jetson Orin NANO开发套件开箱

由于接下来的文章，我们都会以Jetson Orin NANO开发套件或者Jetson AGX Orin开发套件作为边缘计算设备，所以我会介绍一下使用的设备情况。

2024-08-07

6960

点击加载更多

社区活动

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·干货材料·成员作品最新动态