首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

本地AI模型应用之笔记篇,一文带你了解本地AI工具如何选择!

大部分人对于本地AI大模型的硬需求之一,是本地化的笔记系统,希望通过本地笔记系统建立自己的知识库和笔记体系。

这里,首先要简单讲讲知识库和笔记的差异。

知识库

知识库更像是一个经过精心整理和分类的知识宝库,它包含着全面、系统且有条理的信息。这些信息可以是各种文档、表格、书籍,数据;数据通常是经过筛选、提炼和组织的,具有较强的逻辑性和结构性,可以作为长期参考和学习的重要资源。

例如,一个企业的知识库可能涵盖了各种专业知识、技术文档、操作流程等,能够为员工提供准确且深入的知识支持。其核心特征包括:

结构化:知识库中的信息按照主题、类别或标签进行组织,便于检索和导航。

共享性:知识库往往面向团队或社区,鼓励信息的共享与协作。

权威性:知识库的内容通常经过验证,确保信息的准确性和可靠性。

企业化的知识库涉及了比较复杂的架构,比如下图:

这是开源的FASTGPT方案的典型架构,可以看到,它可以接入多种外部模型,同时也通过向量模型和向量数据库搭建起知识库的骨架,接通大模型和知识库之间的桥梁。

实际上,相比于传统企业数据库体系,这种大模型的知识库体系优点非常多,最直观的是,企业基于私有数据构建应用的成本正在快速下降。

比如,过去我们要基于本地企业私有数据开发个应用,需要懂前端、数据,UI,养三四个人开发3个月,小10万块的基础成本;外包出去,怎么也得个5-8万。

但基于大模型的知识库方案,以构建智能客服为例,整体成本可以下降到原来的20-30%;而智能化程度要比传统方案高出很多。

企业的方案需求千奇百怪,咱也不继续展开,有具体需求的,可以找坤叔私聊。

笔记NOTE

而笔记则相对更加灵活和个性化。它可以是对某个具体事件、想法、观点的即时记录,也可以是在学习、工作或生活过程中随手写下的感悟、要点等。笔记的形式和内容更加多样化,可能并不像知识库那样严谨和系统,但却能更直接地反映出个人的思考和经历。

目前各种笔记软件非常多,在AI大模型时代,各种笔记软件的差异就是有没有接入AI大模型;接入了AI大模型的笔记系统可以接入了AI大模型的笔记系统,就像是被赋予了超级大脑,它的能力得到了质的飞跃。

对于本地 AI 大模型的本地化笔记系统而言,它需要兼具知识库和笔记的特点。一方面,它要能够像知识库一样,为用户提供强大的知识存储和管理功能,让用户可以方便地分类、检索和利用自己积累的知识。

大致可以分成下面几类:

一、传统笔记软件拓展大模型插件

典型代表:obsibian+本地大模型ollama插件

Obsidian 是一款完全本地化的笔记应用,它超越了传统笔记软件的范畴,通过其强大的链接系统和高度可定制化的特性,成为了构建个人知识库的理想平台。当Obsidian结合了AI大模型插件,它便能够提供更为智能化的服务,进一步强化了其作为知识管理和深度学习工具的地位。

在Obsidian中,通过安装各种插件,用户可以显著扩展其功能。

知识点之间,也能像图谱一样形成链接。

在这个方案里面,我们使用OLLAMA本地部署模型。这个不多叙述,请参见:

再搭配Obsidian内置的社区chatbot插件。

于是我们就能在笔记内和AI聊了。

方案2:原生的AI笔记软件

典型代表REOR

Reor是一款由人工智能驱动的桌面笔记应用:它会自动链接相关笔记、回答笔记中的问题、提供语义搜索并可以生成人工智能抽认卡。所有内容都存储在本地,您可以使用类似 Obsidian 的 Markdown 编辑器编辑笔记。

该项目的假设是,用于思维的 AI 工具应该默认在本地运行模型。Reor 站在巨人Ollama、Transformers.js和LanceDB的肩膀上,使 LLM 和嵌入模型都可以在本地运行。

和上一个基于obisian+插件的方案相比,Reor是原生的AI笔记方案,把语义搜索所使用的向量数据库原生内建在软件内,因此,对笔记的引用和检索的理解能力更强。

在大模型方面,它也是依靠OLLAMA进行接入。

不过,它有好几种不同的向量模型选择,对应不同的语义检索效率。

坤叔使用reor已经有两三个月了,轻度使用;它的好处是,同样具备本地化的私密性,但在其他功能性方面,它自然是不如obisian的。

方案3:线上笔记系统

典型代表:NOTION/飞书+AI插件

这些其实算不上本地AI笔记方案,但是它们也是目前企业大规模应用的AI知识库方案,和上面两种方案相比,公共性和知识库的时效性都会更加强大;但大部分数据都在云端和线上,决定了大家并不会放心把所有的数据都交给他们。

在线笔记系统,如Notion和飞书(Feishu),因其云同步、实时协作和多功能集成而受到广泛欢迎。当这些平台集成了AI插件,它们的潜力得到了进一步释放,成为现代工作和学习环境中不可或缺的工具。以下是Notion和飞书结合AI插件后的一些关键优势和应用场景:

Notion + AI 插件

智能文档编写与编辑:AI插件可以协助用户生成高质量的文本,无论是撰写文章、报告还是会议纪要,都能提供语法修正、风格调整和内容建议。

自动化任务管理:利用AI预测分析,Notion可以智能地安排任务优先级,根据用户的工作习惯自动分配任务,并提醒重要截止日期。

知识库搜索与整理:AI增强的搜索功能可以理解自然语言查询,快速定位相关信息。同时,AI可以帮助整理和分类知识库内容,保持信息的井然有序。

智能模板生成:根据用户需求,AI可以自动生成各种类型的文档模板,如项目计划、会议记录等,节省创建新文档的时间。

数据分析与报表制作:集成的AI插件能够处理复杂的数据集,生成直观的图表和报表,帮助团队更好地理解和展示数据。

飞书 + AI 插件

智能会议助手:AI可以自动记录会议要点,生成会议纪要,并提出行动项建议,确保会议效率和后续跟踪。

个性化通知与提醒:基于用户的行为模式,AI可以智能推送重要通知,避免信息过载,确保用户不会错过关键更新。

多语言沟通支持:AI插件提供即时翻译功能,使跨国团队能够无缝沟通,消除语言障碍。

情感分析与团队氛围监测:通过分析内部沟通中的语气和情绪,AI可以帮助管理层了解团队士气,及时采取措施改善工作环境。

智能日程规划:AI可以根据员工的日程和工作效率,自动安排会议和休息时间,优化时间管理。

最后,必须指出的是,目前AI应用已经出现了百花齐放的局面,新的应用层出不穷,但也是参差不齐。我们建议大家根据自己的需求,不贪多而择优,选择适合自己的笔记方案提效降本。

AI工具资源

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Ox6iBp9tVfmg7qZ6iLNxUalw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券