赛博未来的第二大脑
RAG是什么?简单说,它让AI能查资料回答问题。不靠猜,靠事实。
大概工作原理:
这样做有什么好处?
相当于为大语言模型提供了一个"外部知识库",不仅更专业,而且能有效减少"幻觉",让回答有出处,更准确。
受益场景很多,如AI客服,以前是关键词匹配,经常换个问法就答不了。现在是真正的语义理解回复,而且调内部知识库回答,不会乱编,非常实用。
随着AI技术发展,Token成本下降,RAG技术应用越来越广。开始出现大量面向C端用户的AI知识库产品。
这类产品潜在价值巨大,有希望演化为你的第二大脑,最不济也是一个查找资料的好帮手。
本次评测,从易得性、知名度、支持Mac和PC客户端角度出发,选择了以下产品进行深度评测:
腾讯推出的AI助手产品,支持微信生态,拥有强大的知识库功能
支持多模态的全能型AI知识库工具,拥有丰富的功能和扩展性
高度可定制的AI知识库工具,支持多种模型和灵活的配置选项
开源的本地部署知识库解决方案,注重隐私和自定义性
对知识库产品来说,要让用户方便地把已有资料放上去,支持的文档格式种类越多越好。
文档格式 | 腾讯IMA | 纳米AI | CherryStudio | AnythingLLM |
---|---|---|---|---|
✅ | ✅ | ✅ | ❌ | |
WORD | ✅ | ✅ | ✅ | ❌ |
EXCEL | ❌ | ✅ | ✅ | ✅ |
PPT | ✅ | ✅ | ❌ | ❌ |
TXT | ❌ | ✅ | ✅ | ✅ |
CSV | ❌ | ✅ | ❌ | ✅ |
Markdown | ✅ | ✅ | ✅ | ❌ |
HTML | ❌ | ✅ | ✅ | ❌ |
EPUB | ❌ | ✅ | ✅ | ❌ |
URL | ❌ | ✅ | ✅ | ✅ |
图片 | ✅ | ✅ | ❌ | ❌ |
音频 | ❌ | ✅ | ❌ | ❌ |
视频 | ❌ | ✅ | ❌ | ❌ |
从表中看,纳米AI支持的格式最多、CherryStudio第二。尤其是能支持Epub电子书格式,是非常重要的特性,这样就能把整本书丢进去,随时查资料。
为方便判断,除Get笔记,上传了几份相对熟悉的资料:
为避免模型质量干扰,知识库默认选用Deepseek R1模型,不用官方模型。为避免上下文干扰,新开会话测每个问题。
注意:Cherry Studio使用Deepseek官网API的推理模型。但它不直接提供嵌入和重排模型,模型选择不同,可能会有一定偏差。
评测维度:
以前产品经理圈流行一个梗,出自张小龙的一条饭否:"面试产品经理,所有技能合格后,要问,你喜欢摇滚吗。回答否的,就算了"
从结果看,纳米AI表现最好,CherryStudio其次。
针对这个题目,几个工具回复都还行,但IMA引用张小龙对Windows的评价,引申为iPhone可能有类似看法,这样不一定对。
在"张一鸣如何评价iPhone?"等问题上,各工具表现不一,纳米AI和Cherry Studio在某些题目上出现错误引用,而在"红烧拖鞋如何做?"的幻觉测试上,所有工具都表现良好,不过回答质量存在差异。
在"去年3月份我做了什么?"的时间检索测试和"有什么关于决策的建议?"的广泛材料召回测试中,纳米AI均表现最佳。
评测维度 | 腾讯IMA | 纳米AI | CherryStudio | AnythingLLM |
---|---|---|---|---|
文档引用覆盖 | 3分 | 5分 | 4分 | 1分 |
引用标注 | 3分 | 4分 | 4分 | 1分 |
回答准确性 | 3分 | 4分 | 4分 | 2分 |
回答有用性 | 3分 | 5分 | 4分 | 1分 |
内容排版 | 3分 | 5分 | 4分 | 1分 |
结论很直观:纳米AI > Cherry Studio > 腾讯IMA > AnythingLLM
除了AnythingLLM特别拉胯外,其他几个工具的差距不大。可惜的是Cherry Studio,因为只是工具,无论大模型、嵌入模型、重排模型,都要自己配置,操作成本非常高,对普通小白用户来说,并不友好。
综合表现最优,文档支持最全面,回答质量最高
回答质量高,但上手难度大,需要专业知识
表现稳定,但功能较为基础,微信生态优势明显
整体表现差,但作为开源项目有发展潜力
这次评测,没想到纳米AI知识库效果出众,再深入看看它的其他知识库相关功能。
有几个特别实用的功能:
官方收集整理了大量实用的知识库,一键添加学习。不仅可以学习别人的知识库,还能创建分享自己的知识库。让知识流动起来,让知识更有价值。
第一次见到支持多模态的知识库。无论图片、音频、视频,都可以识别转为文本,极大拓展了内容边界。确实,知识不止是文本文件,未来AI世界一定是多模态的!
任何你觉得跟AI有价值的对话,都可以选择加入知识库。人机协作创作知识,也是未来一大趋势。这个功能很好的满足了这样的需求。
纳米AI的Windows版,同样支持导入桌面文件、公众号和微信聊天文件。不仅如此,Windows版还能自动抓取浏览记录、网页收藏夹,这个Mac很快也会支持。
你只需要收藏内容,AI会自动打标签、分类,实在收藏癖福音。最近更新发现,知识库空间容量从2G扩容到了36G,真的足够用了。
Flomo笔记创始人少楠写了一本书叫《笔记的方法》,里面有一句话广为流传:"让当下的笔记,增援未来的自己"。
笔记产品也是知识库,但有了AI加持后,就可以持续对话,检索提炼萃取。AI知识库就是这样的产品,非常实用,值得持续关注,深度使用。
在未来,人人都会拥有大量的AI助理或员工。而他们的知识来源、对你偏好的理解,可能就源于你的一个个知识库。
所以,从今天起,我们就应该肆无忌惮的收藏、持续思考提问、不断记录输出,逐步建立属于自己的知识库,增援未来的自己和"AI们"。