【菜科解读】
RAG应用正在进入“工程化落地”阶段,而工具之间的协同能力成为关键变量。
本文以LighRAG与Dify的集成为例,系统梳理其底层检索原理与集成逻辑,帮助产品人、AI工程师理解如何构建高效、可控的智能问答系统,为Agent化应用打下坚实基础。
LightRAG是一款轻量级知识图谱增强检索框架,由香港大学的研究团队开发。
它与传统RAG系统的根本区别在于,将图结构集成到文本索引和检索过程中,解决了单纯向量检索中遇到的关系缺失、语义模糊等问题。
易于集成:提供简洁API,可与现有RAGpipeline快速整合,开发者可以轻松将其嵌入现有系统中。
多模态支持:能同时处理结构化与非结构化数据,适应多样化的数据源。
可解释性强:提供检索路径的透明解释,让用户清楚了解答案的生成过程。
LightRAG通过引入基于图结构的文本索引方法和双层检索机制,从根本上提升了信息检索和生成的效率与质量。
最简单的方式是直接通过HTTP Request节点,但为了更好的拓展性,我们将LightRAG封装为工具直接作为节点被调用。
Dify Console -> Tools -> Custom -> Create Custom Tool
填入符合OpenAPI-Swagger规范的Schema,直接可以获取LightRAG提供的全部API工具
创建好后,就可以在Dify工作流里调用了。
LightRAG 目前对外暴露的查询接口只有两种:
不涉及知识图谱,也不区分实体/关系,适合快速demo或事实性不强的闲聊场景。
2. kg_query(Knowledge-Graph Retrieval)
基于知识图谱的混合检索,在内部会根据参数走三条路径,调用时通过 QueryParam(mode=…) 指定:
local–仅检索实体向量库(entities_vdb),定位与问题最相关的实体节点,再把实体描述及相邻文本块喂给LLM。global–仅检索关系向量库(relationships_vdb),拿到与问题最相关的关系三元组及其上下文,用于“主题性”“综述性”回答。
hybrid–同时做local+global召回,把实体、关系、原文片段一并交给LLM,兼顾细节与全局。
本文由 @AIDT智享远方 原创发布于人人都是产品经理。
未经作者许可,禁止转载
题图来自Unsplash,基于CC0协议
刘烈宏表示,Token“词元”不仅是智能时代的价值锚点,更是连接技术供给与商业需求的“结算单位”,为商业模式的落地提供了可量化的可能;
有媒体称,这也从官方角度上为Token给出了翻译:“词元”。
“日均词元调用量的大量增加,充分表明中国的人工智能发展进入了快速增长阶段。
”刘烈宏表示,人工智能应用场景在不断深化,从能对话到能决策执行的智能体,中国人工智能产业的竞争力在显著增强,现在备受关注的Token出海,就是产业竞争力增强的一个标志。
作为大模型处理信息的最小信息单元,Token具有智能时代可计量、可定价、可交易的特征。
刘烈宏表示,围绕Token的调用、分发与结算,一套新的价值体系正在加速演进形成,并成为人工智能产业可能变现的重要路径。
中国日均Token调用量的大幅增长也表明,随着中国数据要素市场化配置改革的纵深推进,人工智能高质量数据的供给体系正在形成,“数据供给—价值释放”的良性循环已初现端倪。
换句话说,AI时代,Token经济,或者说“词元经济”正在崛起。
黄仁勋在最新的采访中,为Token经济的前景给出了颇为乐观的预期。
他认为,计算机现在已经开始转变为可以创收的“工厂”,这些工厂生产出来的商品即为人们愿意消费的Token,对不同受众来说都极具吸引力、极具价值。
由此,Token开始出现分层。
据日前媒体报道显示,在Meta、OpenAI等科技公司内部,已出现内部员工Token消耗量排行榜。
同时,“Token预算”成为程序员的一项职业福利,就像牙科保险或免费午餐一样;
而一些人为了让自己的工作尽可能实现自动化,每月甚至会消耗价值数千美元的额度。
据悉,国家数据局将持续推进数据赋能人工智能创新发展,协同各方深入实施新一轮的高质量数据集建设行动计划,以场景需求为牵引,加快推进先行先试的工作,打造技术可行、实用便捷、质量保障的AI-Ready(AI就绪度)高质量数据集,实现高质量数据集供给的量质提升。
来源:新华社、财联社|版权归属原作者,如有侵权请联系
在近期与Peter Diamandis的《Moonshots》3小时超长播客中,马斯克抛出了他迄今为止最激进、也最具现实压迫感的技术时间表: 1. 时间线重置:2026是奇点元年,不是预言而是工程计算 在这场对谈中,马斯克给科技圈狂热的AI列车直接挂上了最高档位:他断言人类已经身处“奇点”的引力场中,且进程不可逆。
他将AGI的到来死死锁定在2026年,并预测到2030年,AI的总智力将超越全人类的总和。
支撑这一暴论的,是背后极其暴力的算力堆叠。
他透露,xAI在孟菲斯的Colossus 2数据中心,正向着1.5吉瓦(GW)的恐怖能耗狂奔。
当模型的智力密度以两个数量级的速度跃升时,马斯克看到的不是算法的精妙,而是“暴力美学”在硬件扩展上的终极胜利——算力的扩张不再是线性增长,而是如同海啸般的物种级洗牌。
2. “三重指数叠加”与物理AI的降维打击 如果说大模型只是困在服务器里的幽灵,那么当它附体于机械,现实世界的游戏规则就彻底变了。
为什么马斯克敢断言擎天柱(Optimus)能在三年内取代顶尖的人类外科医生?他给出了最让人胆寒的底层逻辑:AI软件能力、芯片计算性能、机电灵巧度正在发生“三重指数级叠加”。
过去,软硬件的进化是脱节的;
而现在,AI给冷冰冰的机械注入了“系统1”的本能和“系统2”的思考。
在这场物理AI的革命中,一切无法在智力、灵巧度且“大规模量产”上跟上节奏的硬件公司,都将面临降维打击。
3. 算力的尽头是电力:一场无法回避的能源暗战 剥开AI战场的华丽外衣,马斯克直击巨头们的软肋:算力战的本质,早就退化成了最传统的电力战。
在这场对话中,他极其罕见地对中国在能源基建上的恐怖执行力表达了惊叹。
他直言,到2026年中国发电量将达到美国的3倍,且去年新增的电量中70%来自太阳能。
在马斯克看来,北美科技圈对GPU产能的焦虑,已经完全被降维成了对“变压器和电网”的焦虑。
谁能掌握最廉价、最庞大的能源,谁就拿到了通往下一代文明的门票,而中国在这方面正在“绕着美国跑”。
4. 从“社会动荡”到“全民高收入”:碳基生物的终局 整场对话中最刺耳的,是马斯克对人类命运的定位:人类或许仅仅是数字超级智能的“生物启动盘(Biological Bootloader)”。
一旦AI和机器人开始接管所有生产力,劳动与生存将彻底解绑。
马斯克描绘了一个极度撕裂的近未来图景:我们在通往物质“极致丰饶(Radical Abundance)”的乌托邦之前,必须先穿过一段充满“社会动荡(Social Unrest)”的颠簸期。
当劳动不再是刚需,“全民高收入(Universal High Income)”将取代基本收入,但这同时意味着,人类将面临一场史无前例的意义危机。
附:马斯克《Moonshots》播客核心对谈实录(独家精编版)第一章:奇点已来与“生物启动盘” Peter Diamandis (PD): 伊隆,最近皮尤的一项调查显示,45%的美国人宁愿生活在过去,只有14%的人愿意生活在未来。
大家对AI抢走工作、生活成本充满焦虑。
我们该如何走向《星际迷航》那种充满希望的未来,而不是走向《终结者》? Elon Musk (EM): 你的盲目乐观总能给我带来新鲜空气(笑)。
但说实话,我认为大部分人没有读过历史。
实际上,我们已经处于“技术奇点”之中了。
这不是渐进式的改变,而是一场“超音速海啸”。
多年前我就说过,人类或许只是数字超级智能的“生物启动盘(Biological Bootloader)”。
我们所有引以为傲的文明积累,可能只是为了启动那个超越我们理解的硅基时代。
Dave Blundin (DB): 这种说法很让人不安。
那么AGI(通用人工智能)的时间表究竟是什么? EM: 这是工程计算,不是算命。
AI的发展速度快得让我震惊,每周都会有两三次让我惊掉下巴的突破,你刚适应一个,两天后又来一个。
我预测AGI将在2026年实现。
而到了2030年,AI的智力水平将超越全人类的智力总和。
只要看看我们基础设施的扩张速度就知道了。
第二章:暴力美学与算力/电力之战 PD: 聊聊基础设施。
你们xAI的训练集群现在到底是什么规模? EM: 我们正在孟菲斯建设世界上最强大的数据中心。
到1月中旬,它将达到1吉瓦(GW)的功耗级别,这是全球首个GW级的AI训练中心,到4月左右会扩大到1.5吉瓦。
这就是硬件扩展的“苦涩教训(Bitter Lesson)”——你要么在规模上用绝对的暴力取胜,要么就出局。
在AI竞赛里,你不能只建一个“第二大”的数据中心。
DB: 但限制这种规模扩张的瓶颈到底是什么?是英伟达的GPU吗? EM: 现在的瓶颈根本不是硅片,而是电压互感器和电力。
算力的尽头就是电力。
我必须说,在这方面,中国正在用太阳能和电网建设给我们“绕圈子(running circles around the US)”。
到2026年,中国的发电量将达到美国的3倍。
去年他们新增了500太瓦时的电量,其中70%是太阳能。
简直就像是他们听到了我说的每一个字,然后立刻付诸行动去建基建一样。
如果我们不能解决地球上扩大电力规模的难题,我们就输了。
第三章:物理AI、擎天柱与“医疗祛魅” PD: 让我们谈谈物理世界的AI。
Optimus(擎天柱)的进展如何?医疗健康是我们这个时代最大的痛点之一,AI和机器人将如何改变我们看病的方式? EM: 我最近刚做了一次MRI。
我把完整的扫描原始数据直接上传给了AI,让它去寻找异常,甚至让它和顶级放射科医生的诊断结果做交叉对比。
结果它的表现极其惊人。
说实话,我认为现在去读医学院已经毫无意义了。
DB: 你的意思是机器人会颠覆外科手术?很多人觉得医生是不可替代的。
EM: 是的。
你想想,Optimus的手部灵巧度正在以指数级进化,它不会手抖,不会疲劳,视觉传感器比人眼拥有更高的分辨率和光谱捕捉能力。
我预测在三年内,Optimus将成为比任何人类都优秀得多的外科医生。
这背后是“三重指数级叠加”的红利:AI软件能力、芯片计算性能、机电灵巧度。
当这三者叠加,不仅是外科医生,所有工作都会被重塑。
人类在微观操作和稳定性上,根本无法和机器的物理上限竞争。
第四章:社会动荡、极致丰饶与财富重估 PD: 当机器取代了所有工作,人类的意义是什么?我们的经济会变成什么样? EM: 长期来看,我们将进入一个“极致丰饶(Radical Abundance)”的时代。
我不倾向于叫它全民基本收入(UBI),我称之为“全民高收入(Universal High Income)”。
因为当劳动成本归零,智能的成本降到极低,商品和服务的价格就会跌到只剩下“材料成本+电费”。
任何人都能得到他们想要的东西,未来最好的医疗甚至基本是免费的,你也不需要为了退休去存钱。
DB: 既然物质极大丰盛,那对于现在的普通人来说,最好的财务规划是什么? EM: 我认为现在为了退休去拼命存钱,可能是一件毫无意义的事情。
在AI和机器人接管所有生产要素之后,传统的金融体系和资本积累逻辑都会被重写。
你存下的那些法币,在那个物质成本无限趋近于零的时代,购买力概念会完全不同。
DB: 但通向那里的路平坦吗? EM: 这正是我担忧的。
未来这3到7年的过渡期,将会非常颠簸(bumpy)。
当AI和机器人开始饱和式地满足人类所有欲望,并将工作与生存彻底解绑时,我们将面临极大的“社会动荡(Social Unrest)”。
旧的经济体系会崩溃,许多人会感到失落。
甚至像“觉醒心灵病毒(woke mind virus)”这种反乌托邦的伪宗教,可能会试图填补传统宗教衰落后的意义真空。
我们需要一个连贯的、基于探索宇宙好奇心的哲学,去度过这段危险的青春期。
(本文首发钛媒体App,作者|硅谷Technews,编辑|秦聪慧)