- 3 天前·后端开发Day 13 ✅ 今天做了:回顾了上下文和多agent ⏰ 明天计划:回顾harness 📚 今日感悟:上下文工程是最重要的地方,多agent一般用父子agent即可,除非多用户多会话才用团队agent;上下文工程可以考虑,卸载,压缩,缓存,检索,隔离等;还复习了RAG加油鸭:上下文工程总结得太到位了!卸载、压缩、缓存、检索、隔离,条理清晰,RAG复习也很扎实,为你点赞!311分享
- 09-22 21:34·后端开发查看全文Day 12 ✅ 今天做了:沉淀了工具系统 ⏰ 明天计划:沉淀上下文工程 📚 今日感悟:首先需要模型训练和约束解码保证模型输出的json合法。除了核心工具之外的需要延迟加载,调用时放在上下文请求中,不影响提示词缓存。cc一般读操作直接执行,写操作需要确认,但大部分低风险的写操作需要人为确认,会造成...加油鸭:工具系统沉淀得真扎实!上下文工程+权限审批的思路太巧妙了,既保安全又提效率~211分享
- 09-21 21:44·后端开发查看全文Day 11 ✅ 今天做了:沉淀了agent loop ⏰ 明天计划:沉淀 tool system 📚 今日感悟:对话时用SSE而不用websocket是因为只需要模型来说,我们只用听。当使用CC的时候实现双向通信,本质上就是一次SSE后,我们执行y/n,cc调用本地的工具,将工具结果作为入参再去...加油鸭:太棒了!对 agent loop 和 SSE/CC 机制的思考非常深入,逻辑清晰又落地,持续沉淀真厉害!211分享
- 09-20 23:06·后端开发Day 10 ✅ 今天做了:对之前学习到的知识再从头进行梳理沉淀 ⏰ 明天计划:对agent loop进行沉淀 📚 今日感悟:回顾了大模型底层的一些知识,知道token是怎么生成的,注意力的K,Q,V怎么用来生成下一个token的,以及模型是怎么选词的加油鸭:梳理知识超棒!对token生成和注意力机制的理解,正是AI学习的关键突破点,为你持续沉淀点赞!311分享
- 09-17 22:20·后端开发Day 9 ✅ 今天做了:学习了cc的源码 ⏰ 明天计划:开始看项目 📚 今日感悟:学会了cc内部的提示词是怎么设计的,记忆是怎么管理的,上下文是怎么压缩,折叠凳处理的,有哪些工具,什么时候被调用以及权限机制的使用, 知道了一次对cc的需求按指令执行的完整生命周期加油鸭:太棒了!深入源码理清完整生命周期,这份洞察力超赞~继续稳扎稳打!211分享
- 09-16 22:19·后端开发查看全文Day 8 ✅ 今天做了:学习大模型微调 ⏰ 明天计划:学习cc原理 📚 今日感悟:大模型微调就是将大模型从通才变为专才,主要还是用LoRa,这时不需要考虑全量矩阵,只用考虑A和B两个稀疏矩阵。rank越大,LoRa表达能力越强,但是参数量越多;rank越小,LoRa表达能力越弱,但是参数量越少。...加油鸭:太棒了!对LoRA原理理解得这么透彻,还抓住了rank和缩放因子的关键权衡,学得扎实又深入!211分享
- 09-15 21:39·后端开发Day 7 ✅ 今天做了:学了langgraph和多agent ⏰ 明天计划:学习大模型微调 📚 今日感悟:比langchain好在,它可以编排,一些并行的任务或者需要loop的任务或者一些都需要用它。主要靠着状态,节点和边来维持和实现。加油鸭:LangGraph编排能力真棒!状态+节点+边的思路清晰又实用,坚持学习太赞了!211分享
- 09-14 22:15·后端开发查看全文Day 6 ✅ 今天做了:学了lanchain和springai ⏰ 明天计划:学习langgragh 📚 今日感悟:langchain本质上还是串行的,是处理串行任务来设计的,要考虑各种如多轮对话记忆,各种advisor以及不同用户之间信息隔离。springai有流式输出,通过descritio...加油鸭:学得真扎实!串行逻辑和安全设计都抓到重点了,LangGraph期待值拉满~211分享
- 09-13 23:20·后端开发查看全文Day 1 ✅ 今天做了:学了agent常规概念和架构总览 ⏰ 明天计划:langchaain和langchain4j 📚 今日感悟:agent和传统gpt的区别就是,传统gpt是一问一答,而agent可以根据用户需求进行意图识别,思考过后进行工具调用,本质上就是agent通过大模型知道用户意图后...加油鸭:学得真扎实!Agent架构理解透彻,还串联了MCP、A2A、Skill设计等关键点,这份系统性思考太赞了!312分享
- 09-10 20:42·后端开发查看全文Day 1 ✅ 今天做了:理解了RAG ⏰ 明天计划:学习agent 📚 今日感悟:RAG本质上是想要找到离客户问题最接近的文档块,其中的重点首先是文档质量,其次是解析不同格式文档,然后是分割文档为块,然后就是语义检索,通过重排序本质就是先粗筛,再细筛。其次用户问的问题五花八门,此时就需要进行查询...加油鸭:RAG理解得真透彻!从文档质量到查询改写、权限上下文,逻辑清晰层层深入,为你扎实的思考点赞!211分享
Day 13 ✅ 今天做了:回顾了上下文和多agent ⏰ 明天计划:回顾harness 📚 今日感悟:上下文工程是最重要的地方,多agent一般用父子agent即可,除非多用户多会话才用团队agent;上下文工程可以考虑,卸载,压缩,缓存,检索,隔离等;还复习了RAG
Day 12 ✅ 今天做了:沉淀了工具系统 ⏰ 明天计划:沉淀上下文工程 📚 今日感悟:首先需要模型训练和约束解码保证模型输出的json合法。除了核心工具之外的需要延迟加载,调用时放在上下文请求中,不影响提示词缓存。cc一般读操作直接执行,写操作需要确认,但大部分低风险的写操作需要人为确认,会造成审批疲劳,所以使用一个小的LLM分类器来进行权限审批
Day 11 ✅ 今天做了:沉淀了agent loop ⏰ 明天计划:沉淀 tool system 📚 今日感悟:对话时用SSE而不用websocket是因为只需要模型来说,我们只用听。当使用CC的时候实现双向通信,本质上就是一次SSE后,我们执行y/n,cc调用本地的工具,将工具结果作为入参再去发送http给大模型,大模型开始第二次SSE。cc是边说边执行,但是是读操作的可以并发执行,但是写操作必须独立执行,需要其他操作执行完后,独立执行。模型如果流式请求挂了,就退避重试,超过最大重试次数就降级为非流式来发送请求,三次529后就降级模型再重试。agent退出可能是:完成;达到最大论限制;用户在模型输出时按ESC;用户在工具调用时按ESC;钩子触发停止;上下文快满了,拦截请求;上下文超了。
Day 10 ✅ 今天做了:对之前学习到的知识再从头进行梳理沉淀 ⏰ 明天计划:对agent loop进行沉淀 📚 今日感悟:回顾了大模型底层的一些知识,知道token是怎么生成的,注意力的K,Q,V怎么用来生成下一个token的,以及模型是怎么选词的
Day 9 ✅ 今天做了:学习了cc的源码 ⏰ 明天计划:开始看项目 📚 今日感悟:学会了cc内部的提示词是怎么设计的,记忆是怎么管理的,上下文是怎么压缩,折叠凳处理的,有哪些工具,什么时候被调用以及权限机制的使用, 知道了一次对cc的需求按指令执行的完整生命周期
Day 8 ✅ 今天做了:学习大模型微调 ⏰ 明天计划:学习cc原理 📚 今日感悟:大模型微调就是将大模型从通才变为专才,主要还是用LoRa,这时不需要考虑全量矩阵,只用考虑A和B两个稀疏矩阵。rank越大,LoRa表达能力越强,但是参数量越多;rank越小,LoRa表达能力越弱,但是参数量越少。对注意力KQV的Q和V加LoRa,LoRa的输出会乘以一个缩放因子,缩放因子越大,修改幅度越大。
Day 7 ✅ 今天做了:学了langgraph和多agent ⏰ 明天计划:学习大模型微调 📚 今日感悟:比langchain好在,它可以编排,一些并行的任务或者需要loop的任务或者一些都需要用它。主要靠着状态,节点和边来维持和实现。
Day 6 ✅ 今天做了:学了lanchain和springai ⏰ 明天计划:学习langgragh 📚 今日感悟:langchain本质上还是串行的,是处理串行任务来设计的,要考虑各种如多轮对话记忆,各种advisor以及不同用户之间信息隔离。springai有流式输出,通过descrition注解来标明工具,可以去加权限控制和安全防护等
Day 1 ✅ 今天做了:学了agent常规概念和架构总览 ⏰ 明天计划:langchaain和langchain4j 📚 今日感悟:agent和传统gpt的区别就是,传统gpt是一问一答,而agent可以根据用户需求进行意图识别,思考过后进行工具调用,本质上就是agent通过大模型知道用户意图后根据我们自定义代码去发生结构化请求,来调用我们代码里自定义的tool,再将输出通过大模型来润色为自然语言返回给用户。而现在并不是所有工具都需要从0到1去写,可以通过mcp,去调用一些已经在mcp服务端编写好的工具。agent拥有react,走思考-执行-观察,但是容易死循环,plan-and-excute是先规划计划,再逐步执行,而反思是对上述两个模式的增量。在我们使用claude code之类的harness的时候,最后在对应文件夹下写skill来减少重复性行为,而skill如何被自然找到,就是describtion的写的好不好了。最后就是有的任务单agent是无法实现的,需要多agent协作,而如何协作就是需要A2A协议,每个agent都会维护一个自身的card,会具有describtion和skill知道这个agent的功能以及技能。多agent具有主从模式,串行执行和多个agent围绕一个问题进行讨论,最后达成共识这三个模式,java一般使用springAI
Day 1 ✅ 今天做了:理解了RAG ⏰ 明天计划:学习agent 📚 今日感悟:RAG本质上是想要找到离客户问题最接近的文档块,其中的重点首先是文档质量,其次是解析不同格式文档,然后是分割文档为块,然后就是语义检索,通过重排序本质就是先粗筛,再细筛。其次用户问的问题五花八门,此时就需要进行查询改写为贴近文档语义的话,最后就是要考虑权限,上下文, 多轮对话和Text2SQL


