企业官网建设流程全解析

开一家网站建设公司好,郑州室内设计公司排行,做pc网站排,全网网站建设维护心法利器 本栏目主要和大家一起讨论近期自己学习的心得和体会。具体介绍#xff1a;仓颉专项#xff1a;飞机大炮我都会#xff0c;利器心法我还有。 2024年新的文章合集已经发布#xff0c;获取方式看这里#xff1a;再添近20万字-CS的陋室2024年文章合集更新#xff0c…心法利器本栏目主要和大家一起讨论近期自己学习的心得和体会。具体介绍仓颉专项飞机大炮我都会利器心法我还有。2024年新的文章合集已经发布获取方式看这里再添近20万字-CS的陋室2024年文章合集更新更有历史文章合集欢迎下载。往期回顾心法利器[142] | 大模型自动化标注实战代码分享心法利器[143] | 算法工作太枯燥我的热情保持心法心法利器[144] | 算法工程师深度、广度与高度的成长思考心法利器[145] | 论文VS应用算法工作的理想与现实差距究竟有多大心法利器[146] | 生成式搜索惊艳但难落地的技术浪漫又一年结束了手里的项目又到了总结的时候最近总结的时候总会发现很多项目无论我们是否有意识地去往Agent模式去设计都会逐渐朝着Agent这个模式去演进逐渐形成了Agent的样子这似乎是一个很有意思的现象因此我进行了深入的思考和探讨吧从而逐步发现了大模型系统中长期设计的一些经验特此和大家一起探讨。先提前说一下我这里所谓的Agent是这么一个概念。下面的内容来自某AI APP的回复。在大模型Large Language Models, LLMs场景下Agent智能体是指一种能够自主感知环境、推理决策、执行动作并达成目标的软件实体。它通常以大语言模型为核心“大脑”结合工具调用、记忆机制、规划能力等模块实现更复杂、动态和交互式的任务处理。在这里往往包含感知、推理、规划、行动、记忆、反馈、迭代中的若干个关键步骤合理配合形成一个完整的系统以完成特别地复杂任务。方法论大模型能力边界的发现和探索大模型的难题Agent共识历史的重演和新生范式层面的共通点对话搜索小结后面我们该怎么做后记方法论方法论角度在品尝过新鲜感和惊喜感后真正用起来后随着我们对一个工具的逐渐熟悉我们往往能够发现一个工具的能力边界了解它的局限性甚至是他的缺点毫无疑问这是一个非常常见的路径了在此基础上我们便会就这个问题提出改良的方式而改良的方式粗暴地分可以分为内部和外部。通过调整内部的结构优化构造方式来实现这个工具的改良。通过引入新的工具配合把问题交给更加适合的部分。两者并无实质的优劣对研究者而言前者无疑是最酷的在更远的未来也无疑是更为强大的毕竟谁都希望自己的东西变得更强更全面但要想更快、更可控、更稳定地解决这个问题让他更快落地后者肯定是一个更合适的方案。一个很简单的例子对于一个很难的业务多人的团队合作每人各司其职会比单兵作战更加稳妥便是这个原因。早在chatgpt刚出来的时候我对大模型的技术就保持一个很冷静谨慎的态度在当时的视角下先后写过好几篇文章来讲述大模型可能的发展方向和应用思路重在强调大模型的出现不代表能做所有事而是能在一个系统内发挥很大的作用或者说可以尝试围绕他去做很多工作一再强调很多事并非光靠大模型就足以完成。心法利器[81] | chatgpt下非端到端方案是否还有意义心法利器[82] | chatgpt下query理解是否还有意义心法利器[88] | 有关大模型幻觉问题的思考心法利器[97] | 判断问题是否真的需要大模型来解决现在视角下很多内容其实都已经应验了在大模型做的并不好的领域我们确实做了很多工作24年的RAG25年升级的Agent概念都在印证着这一点。大模型能力边界的发现和探索下面我来复盘一下大家整个研究的推进过程。下面会分几个阶段但阶段之间并不是完全隔离的而是缓慢地切换变换的。第一阶段。大模型刚出来的时候大家总会觉得非常惊艳很多功能看起来确实能完成的不错通过简单的描述他就能把问题的答案娓娓道来内容翔实可靠。这个时间点大家普遍沉浸在新技术的新鲜感里大家的体验都不算深所以并没有发现他所存在的问题。第二阶段。随着深入使用配合交叉验证大家开始发现大模型生成的内容也不完全可靠会有幻觉会有错误不听指令地乱来问题的解决不尽如人意尤其是一些专业的领域或者特定的模式大家开始去定位并尝试多种解决方案来解决问题。刚开始大家更多是没学到的问题于是非常惯性的思维便是重点训练于是通用的基座升级、轻量化微调如lora便非常流行24年左右便涌现了大量基座模型的尝试。除此以外从prompt到更为复杂的prompt工程开始出现开始尝试拆分任务逐个完成。对于一些机器成本或者场景要求高的蒸馏的方案也开始流行。第三阶段。众多解决方案里大家开始发现共性的问题与共性的解决方案并将方案的实施进行进一步的细化和升级。24年后期大家会发现多家厂商的开源模型方案开始收敛很多方案已经形成了共识差异在数据层面的工作会更多当然了类似PPO、DPO、GRPO之类的方案大家提的也就更多了此前更多可能就是RLHF了。大家在场景用的时候总会发现大模型的效果不足更多是因为大模型对他们的知识不熟悉于是“外挂知识库”成了很好的应对方式把知识查出来告诉大模型那大模型自然就会回答了RAG这个模式便出现了并被广泛认可和采纳。当然也有很多早期到模型解决的并不好的问题随着大模型微调技术的提升而被解决而并非被拆解出去了典型的例如数据计算、代码生成尽管时至今日这些方向仍有提升空间但我们不可否认相比24年整年2025年12月的现在这些方面确实做的好很多了。第四阶段大模型开始稳固自己的地位系统功能开始分化细分形成比较固定的框架或者说模式。大模型在众多场景被应用但是开始让他做更细、更专注的事。做分类心法利器[114] | 通用大模型文本分类实践含代码、做评价前沿重器[65] | 大模型评判能力综述搜广推中的多个任务前沿重器[74] | 淘宝RecGPT大模型推荐框架打破信息茧房等其实本质都是提升大模型的单一能力此时我们并不要求大模型的通用性而是要求他在某一个方面要做的更好。这个时间点下大家会发现LoRA之类的方案已经不被大家考虑了取而代之的是希望用7B、4B甚至更小的模型来更好地完成1个任务。Agent这个模式开始被提出并开始被广泛提及被众多厂商应用做成各种产品。除了大家常见的通用工具天工、元宝前沿重器[75] | 腾讯元宝重磅出击Agentic RAG如何让搜索“重生”、豆包、千问还有旅游如飞猪AI的旅游规划、客服AI前沿重器[77] | 美团WOWService上四阶段训练打造高质量可维护的对话模型、前沿重器[78] | 美团WowService下多智能体和评估实现闭环、DeepResearch等。同时有了更为深入的应用和尝试。当然了很多东西做的时候可能并不会提Agent的概念但做着做着就会发现这玩意就是Agent。此后Agent经过多方的探索和总结感知、推理、规划、行动、记忆、反馈之类的组件被建立内部或许有大模型的身影也或许并不会有大家对“大模型”的执念已经远不如之前那么深了。作为比对大家不为人知的角落RAG提的人越来越少了但他其实并未消失Agent还有大量的RAG过程他在被路由或者function call触发后仍旧会查询然后交给决策或者总结模块使用仍旧大量存在他的身影换个名字或者形式罢了。大模型的难题时至今日大模型基座的发展已经逐步收敛了尽管还有更新更强的基座出来但大家或多或少也会发现他目前也就在大家预期的几个方向越做越好所谓的新能力并不多换而言之大家对他的定位是逐步明确的。与之对应他在落地过程暴露的问题也逐步形成了共识。在心法利器[119] | 大模型落地困境讨论与解决思路这篇文章里我阐述了目前大模型目前落地所存在的难以解决的客观问题。高机器成本。训练和部署的机器成本高。算法效果差异。榜单和论文的效果与实际落地效果之间存在差异。性能耗时。高耗时要求的场景下大模型生成的速度还是很墨迹举几个例子吧例如搜推场景的高qps要求再例如电话对话、视频对话场景会有明显卡顿。可更新性。需要频繁更新的领域例如电商销售经常有商品上下架泛娱乐场景有音乐、电影之类的物料更新时事新闻场景我们不可能通过改变大模型本身来实现更新。垂直领域的深入知识。在百科科普层面大模型确实有很扎实的能力但是深入到场景内很专业的知识大模型做的仍然不够再进一步垂直下到公司、团队下的知识大模型压根不可能知道例如某个团队的负责人是谁这纯粹就是信息差导致的而并非大模型本身的问题。AIGC内容安全。大模型结果的不可控性容易在尤其是金融、医疗、政治、法律等敏感场景生成很多不可控的内容。特征处理能力。在我的实践中大模型对面板数据的理解尤其是数值的理解能力还有待加强。这些大模型目前的固有难题让他自己无法独立成为一个系统的核心我们需要围绕他做很多工作来辅助。Agent共识围绕大模型的工作很多Agent就是众多工作下大家探索得到的共识。我来举几个例子。要做个公司内部的业务问题助手大模型对公司业务显然不了解那就搞个知识库辅助一下RAG便有了所谓的Retrieval Agent也就有了。客服场景担心大模型生成的内容并不合适所以在生成内容后接了一个回复质检这便是Recheck如果再接一个修复ReAct便形成了。考虑到大模型可能并不能承接全部流量例如因为成本问题上游要做个分流只有特定的问题才能进来这便是Planner的雏形。为了提升精准度对问题进行拆解不同的问题有不同的处理方式例如不同的prompt查不同的数据库表于是Router和Planner都有了这些处理方式被封装子Agent/Tools/Function Call就有了。考虑对话过程需要记录用户的个性化偏好或者是历史多轮信息于是Memory就有了。可见日常的问题和应对方式在大家的探索下形成了范式或许各个场景有各自的思路并不全都需要但这些尝试的拼接组合放在一起真的就是Agent的模式这毫无疑问就是共识。历史的重演和新生细想起来整个迭代探索过程就是在历史重现。我的视角回忆一下bert的更迭情况。bert刚出来的时候大家也是很兴奋的经典的“NLP已死”要变天了的言论也有大家就说熟悉不熟悉。与之同质的大量基座模型也在出比较出的类似roberta、T5、albert。大家逐渐发现了bert的问题定位也逐渐明确他更像是一个基础模型经过不同的魔改和微调策略能适配多种问题后续Transformers包内便有了类似BertForSequenceClassification、BertForTokenClassification、BertForMaskedLM还有类似Simcse之类的向量表征的代表作基本奠定了这个定位。大家都会试出他的边界然后把他用在适合他的位置相比与早年的fasttext、textcnn之类的流行的模型还是有全面提升的而后在搜索、推荐、客服等多个领域都是有应用的。当然与之对应的Bert这个级别的模型做不了现在大模型能做的事在bert出来后的三年后其实就已经出现了停滞该探索的都探索的差不多了时间线大概是19年Transformer发布Attention is all you need论文到了22年左右开始迷茫没有新的突破和创新点了直到23年下半年才有了chatgpt带来新的突破。时间回到现在大模型走过了和现在类似的路兴奋狂热的尝试冷静的探索边界形成应用范式而因为大模型自身的综合能力上升了不小的台阶所以应用上的可操作空间更大产品和功能也就更加多样化了算是NLP的一种新生吧。范式层面的共通点我的大部分工作都是在搜索和对话场景做的从tf-idf到现在的大模型时代都经历过了虽说NLP技术已经有了翻天覆地的变化有关技术的模式也受到了很多挑战但是兜兜转转整个框架和模式其实并未被很大程度的撼动我们来看一下。对话先说对话对话系统我在一段时间之前是分了好几篇文章系统讲过的。前沿重器[21-25] | 合集两万字聊对话系统前沿重器[21] | 聊聊对话系统概述前沿重器[22] | 聊聊对话系统技术架构前沿重器[23] | 聊聊对话系统query理解前沿重器[24] | 聊聊对话系统内容输出前沿重器[25] | 聊聊对话系统多轮对话技术架构方面比较统一的范式便是Query理解、对话管理、对话生成即使是现在这个模式仍旧比较流行顶多是内部功能的充足和升级Query理解内的槽位提取和分类本质其实都是为了Router和Planning服务的对话管理是多轮对话必备的部分Memory在现在重新被重视本质也是个“文艺复兴”但凡是多轮对话都绕不开关键点这一步。搜索搜索我同样写过类似的系列文章。前沿重器[48-54] 合集四万字聊搜索系统前沿重器[48] | 聊聊搜索系统1开篇语前沿重器[49] | 聊聊搜索系统2常见架构前沿重器[50] | 聊聊搜索系统3文档内容处理前沿重器[51] | 聊聊搜索系统4query理解前沿重器[52] | 聊聊搜索系统5召回检索、粗排、多路召回前沿重器[53] | 聊聊搜索系统6精排前沿重器[54] | 聊聊搜索系统7补充模块在线的搜索系统流程基本就是Query理解、召回、精排。现在的话虽说有生成式搜索、生成式推荐的概念但到了实际来看还是有很多问题例如知识的可更新问题等所以要落地仍旧绕不开这个模式前沿重器[49] | 聊聊搜索系统2常见架构。现在的Agentic模式参考元宝前沿重器[75] | 腾讯元宝重磅出击Agentic RAG如何让搜索“重生”虽说内部很多东西都带来了变化但细看理解对应planning召回和精排还是得做大体还是一致的只是加入了大模型去进行规划、改写和检测反馈。小结有上面的例子大家会发现类似的这些模式兜兜转转还是这些虽说我们要尝试去做一些思维的突破和尝试但是能经过时代进步多次冲击仍旧被采纳的部分还是得去学习。后面我们该怎么做首先当下Agent的整套模式和方法论仍旧值得学习和应用的我的视角是虽说外围的模式已经是之前已经见过的甚至可以说只是换了一套说法但新模式下还是有大量结合大模型的改良和创新例如planning这步就不仅是原本意图识别那种简单的分流了而是分为了更为精细的流程处理对更难、更复杂问题的解决肯定有巨大帮助。我的理解按照原来的剧本回顾持续深入的探索肯定还是有的版本的重点肯定还是这个。大模型相关的应用和尝试会更加深入垂域目前看这个已经开始有苗头了后续将会更多大家也不应把目标仅仅聚焦在通用领域大量的垂直领域其实都有很多尝试。都是我的想法大家可以试着参考客服就不必多说了金融的AI经理人、AI荐股AI医疗、Deep Research这种专业性高的游戏内的AI NPC、旅游Agent、工作助手、车载语音助手甚至人形机器人的对话Agent其实很多公司都有在布局甚至出产品了这些都是机会而且还需要一定时间来进行打磨。当然我们可能也不能局限于此NLP的发展还是会带动多模态领域的进一步发展可以看到很多厂商也开始推出多模态模型走的便是大语言模型的剧本这条老路估计还得再走一遍提前学习和布局肯定是有用的。会不会像chatgpt那样的新技术横空出世呢说不定还会有我们就继续期待吧。后记到了年末回顾整个历程还是有挺多感受的作为技术大发展时期的亲历者感受到非常幸运持续的学习和应用新技术对我来说是一件非常有趣的事我应该持续下去的。