详情

　　最底层是数据层，逻辑朴实——有什么数据就接什么数据，不挑不拣。扩写、输出之外，更主要的是使命规划。规齐截旦落地，就由到对应的小模子集群；小模子再把量化成果回灌给大模子，由它翻译成用户听得懂的言语。

　　大模子给出谜底之后，我们特地做了一层“二段交互”的 Chatbox。本年本钱收缩，AI 预算虽正在，却比客岁隆重得多，缘由不难体味：除了把大模子当成问答挂件或旧系统的语音帮手，实正跑互市业模式的案例仍屈指可数，B 端尤甚。良多老机构烟囱林立，我所正在的公司就有四百余套系统，统一条营业链上以至反复扶植；把大模子简单外包正在这些烟囱外，只能锦上添花，无法。

　　第四类是“资产设置装备摆设模子”，内置 Black-Litterman、Risk Parity 等引擎，按照风险品级、流动性、欠债程度及时挪用。

　　度低正在银行营业里，大模子 1% 的错误可能间接抬高 1% 的不良率，这是不成接管的。C 端场景 99% 的精确率曾经脚够好，但正在 B 端必需迫近 100%。

　　2023 年起，大模子的能力让上述想象落地。国内各家都正在敏捷拥抱：蚂蚁把本来集成正在“支小宝”里的理财问答模块拆成品牌“蚂小财”，又能为分歧持牌机构（如广发证券、中加基金）成立专属学问鸿沟。正在我小我的横向测试里，蚂小财的比例最低，给出的注释也最易读。同花顺的“问财”则胜正在数据：做为老牌数据供应商，它把大模子取 SQL、API 两种支流手艺线同时跑通，分时行情、手艺目标选股都能一句话完成；只是语义理解略逊，碰到非尺度化提问就容易“跑题”，也相对较着——我猜测是使命规划链正在高合规场景下容错率太低。至于京东的“京小贝”，目前仍逗留正在“升级后的客服问答”，距离实正处理用户问题还有一段要走。

　　第一类是“根基模子”，只输出最原子的目标，例如某基金过去三年的年化收益率，既能够间接展现，也能够做为更高阶模子的入参。

　　正在银行场景里，大模子哪怕只错 1%，都可能让不良率间接抬升 1%，这是底线% 的精确率曾经脚够交差。同样一句话，交给大模子去跑量化投研，往往只给出一堆看似合理却经不起复现的结论；换成小模子，同样的 Black-Litterman 输入立即能输出可验证的组合权沉。更现实的是钱和时间：实测发觉，整个链中大模子占比越高，响应时间越长。若全程利用大模子，回覆需 40–50 秒；提高小模子占比后，时间可压缩到 20 秒以内，算力成本间接减半。

　　大模子投顾的最大劣势正在于其互动性和用户体验。取保守的机械化从动化保举客服比拟，大模子投顾正在这些方面确实表示超卓。从成本角度来看，大模子的固定成本较高，但比拟完全依赖人工的体例，总体成天性够节流良多。

　　国内跟进得并不慢。2014 年，行业里连续呈现“拿铁智投”“考拉智投”等原型；同年我回国插手京东，也参取了“京东智投”的雏形设想。2017 年，招商银行推出“摩羯智投”，第一次把智能投顾带进公共视野。然而十年过去，市场一直不温不火。缘由并不复杂：投顾圈里常说“三分投、七分顾”，参谋取投资的差别正在于“交互”。过去的做法简单——填一份风险测评，系统吐出一张组合清单，用户照单买卖即可。假如王思聪和我都被定为 C5 激进型，系统给出的方案几乎一模一样；可现实上，我们的现金流、欠债、储蓄习惯天差地别。没有持续对话，就无法让用户实正理解“为什么给我这个方案”，更谈不上正在市场波动中每周、每月取他复盘、调仓。正在大模子呈现之前，这种高频、人道化、且合规的交互几乎不成能实现。

　　第二类是“资产保举模子”，按资产维度拆分：股票、债券、商品……每类资产再挂载各自的量化框架——根基面、手艺、舆情、事务驱动，保举来由因而可逃溯。

　　正在目标查询流程中，我们目前还正在利用转 SQL 的体例。但我小我认为，正在数据查询过程中，转 API 的形式也是一条不错的。正在 ToB 营业中，虽然目前有一些如字节的 Data Agent 等 API 呈现，但我认为通用性上还没有一套完满的 Text to SQL 处理方案。若是场景确定，Text to SQL 是很精确的实现体例。其劣势正在于，只需写成 SQL，查询成果必然是精确的。最终，我们将这个使命落正在了选股或选基的营业场景中，通过一些目标挑选出所需的理财富物。

　　以最常见的 Query 为例，使命拆解后，小模子位于 Agent 之后。无论是利用 Dify 仍是其他 MaaS 平台，我们发觉现正在的 MaaS 平台都支撑代码节点或 HTTP API 节点。我们将小模子打包成办事端，间接放正在每个 Agent 后面。正在 Agent 上，通过提醒词和小模子的引见来确定正在什么环境下挪用这条链中的小模子。输出回覆后，可能间接挪用小模子、查询数据，或者进行联网检索。这些成果出来后，会进行达人融合。达人融合现实上也是一个小型参数的大模子，其次要工做是对回覆进行言语润色，调整布局，输出表格等，最终实现对用户问题的回覆。

　　我小我认为，大模子的参数次要是对言语纪律的总结。因为人类的逻辑和部门学问曾经内化于言语逻辑之中，因而当大模子进行言语纪律的输前程争码时，它似乎具备了某些学问或逻辑。然而，更复杂、更深切的逻辑可能无法仅通过通用型锻炼来实现。

　　先回到“智能投顾”本身。这个概念早正在十年前就已进入视野。2008 年次贷危机后，保守人工投顾因发卖风险而备受质疑，硅谷随之降生了两家明星公司——Wealthfront 取 Betterment。有人把此次迁徙称做“ToC 金融从华尔街搬到硅谷”。彼时的智能投顾几乎完全依赖“小模子”：无论是 Black-Litterman、均值 - 方差、Risk Parity 这类资产设置装备摆设框架，仍是打分选股、基金筛选等东西，素质都是参数无限的法则引擎。只需悄悄扭动一两个旋钮，收益曲线就可能完全改向。这种“黑箱”被少数发卖机构掌控，佣金落袋后，盈亏却由投资者独自承担。Wealthfront 取 Betterment 的创造，是把所有算法公开、回测、可复制；2013 年，美国金融业监管局以至特地出台，强制要求这类公司把模子通明化。

　　正在我们的实践中，Agent 流程放置是一个比力成功的方案。扩写部门基于 DeepSeek 的分歧提醒词来实现，分歧场景下会有分歧的扩写方案。这些方案可能会要求大模子按照某种布局输出成果。DeepSeek 是一种语气型加形式型的模子。例如，语气方面，若是要求以专业语气输出、按照演讲形式输出，DeepSeek 城市很是。

　　落到工程上，我们把用户 Query 的处置拆成两步。第一步用 DeepSeek 的 Chain-of-Thought 做扩写，把白话、错别字、倒拆句通盘翻译成带推理链的布局化企图，省去再训公用分类器的麻烦。第二步交给使命规划 Agent：若是用户问“ 基金怎样样”，系统从动拆成根基消息、业绩曲线、基金司理、舆情事务等子使命，再决定由谁施行——简单现实大模子间接回，数值目标甩给小模子，舆情缺位就 RAG 现抓，图表需求按模板衬着。整个链里，原有营业法则和量化引擎一成不变，仅以 API 形式被大模子按需挪用，协同而不是替代。

　　第五类是“分类预测模子”，面向大类资产走势，用一套可扩展的量化算法实现：输入前提分歧，输出立即沉算。为了让大模子晓得何时挪用哪台“计较器”，每个小模子都配了一条特征向量：算法名称、合用客群、输入规格、输出形式……全数向量化并打标。这一步粗看繁琐，倒是整个系统可注释、可复现的基石。

　　这种所谓的二段交互体例，能够植入任何原有营业系统的页面和功能。我们通过大模子模仿上线了一些脚色，例如巴菲特的投顾脚色、格雷厄姆的投顾脚色以及某些头部大 V 的脚色。我们只需将他们的文章策略上传，并搭建响应的选股或选基模子，就能够按照分歧脚色为用户供给办事。

　　对于金融范畴，锻炼一个通用学问大模子的成本并不高。例如，接入一个通用大模子后，上传一些学问库，编写一些提醒词，并搭建一个 Agent，就能够建立一个所谓的金融行业大模子。可是，若是要进一步深切，好比要求模子正在投研方面达到专精程度，出格是正在撰写股票或上市公司财报方面通晓所有财政目标，那么深度锻炼所需的算力成本将会很是昂扬。正在这种环境下，将这些专精使命拆分为小模子引擎会愈加高效，由于如许能够大幅提高深度算力的操纵效率。正在不异的专业度下，通过小模子实现的深度回覆所需的算力，远远低于将这些学问内化于大模子所需的算力。

　　我比来正在牵头规齐截套面向头部营业的大模子功能架构，焦点思能够用一句话归纳综合：让大模子担任“对话取规划”，让小模子担任“切确计较”。

　　本文拾掇自北银金科高级算法专家尹辰轩6 月份正在 AICon 2025 坐 的分享《大小模子协同正在智能投顾范畴的使用》。本次分享了大小模子协同架构下的大模子投顾方案，操纵保守量化小模子的精准性和高机能，连系大模子 Agent 的搭建，实现问题识别、使命扩写、API 挪用小模子以及谜底融合。该方式能够基于肆意根本大模子进行行业级扩展，颠末测试，根基处理问题，并大大优化了回覆的深度。

　　算力成本实测发觉，整个链中大模子占比越高，响应时间越长。若全程利用大模子，回覆需 40–50 秒；提高小模子占比后，时间可压缩到 20 秒以内，算力成本间接减半。

　　12 月 19～20 日，AICon 2025 年度收官坐 · 见。两天时间，聊最热的 Agent、上下文工程、AI 产物立异等等话题，取头部企业取立异团队的专家深度交地经验取思虑。2025 年最初一场，不容错过。

　　大模子的呈现让一切需要取人进行交互的范畴都有了新的手艺方案，投顾范畴也将送来大模子时代。通用型的大模子，正在专业范畴上的深度思虑以及风险使得正在投顾这种强合规范畴上使用速度慢。

　　我们通过 Chatbot 体例将所有页面营业逻辑策略进行。目前，我们正正在将这一模块使用于具体的营业调整中。我们测验考试将 3 到 4 个分歧的系统拆分为页面和 API，最终实现一个基于 Chatbot 的简单获取专属办事的 ToB AI 原生系统使用。

　　现实上，让大模子进行扩写并不需要利用参数过高的模子。例如，没有需要利用 671B 参数的模子来进行扩写，32B 的模子曾经脚够。我们发觉，正在每个节点上，若是节点有专业用处，能够利用小参数的大模子，以至是更小参数的专训模子。例如，正在使命拆解和内容分段过程中，小参数模子以至最小的 0。5B 的狂言语模子都可能处理问题。目前，我们最大的专训模子是一个 7B 的模子，用于资产设置装备摆设等企图分类。因而，正在每个环节都能够进行优化。

　　专业深度不脚大模子正在通用范畴表示不错，但面临量化投研使命仍显笨拙。例如，让它用 Black-Litterman 模子基于近三个月数据为 C3 风险品级用户生成基金组合，输出往往空泛；同样参数交给小模子，可间接给出可验证的成果。

　　客岁，我还提到过 Scaling Law，即大模子锻炼投入算力带来的报答是递增的。但本年，自从 DeepSeek 呈现之后，我再也没有听到有人提及这个问题。必然程度上，这是由于 DeepSeek 节流了良多算力。正在这个过程中，我认为通过数学量化模子和小模子高度凝练出来的学问，更具深度算力可比性。

　　ToC 取 ToB 的场景差别正在这里被放大。ToC 的问题往往发散，两三轮就竣事；ToB 的问题却像持续剧，需要持续逃踪，且对零。幸运的是，头部营业的需求高度，几乎能够被列举：我现正在的财富情况若何？这笔钱怎样投？我不喜好某只基金，有没有替代？这些企图都能够提前归类，并正在使命规划、模子由、成果封拆三个阶段唱工程化固化。

　　正在智能投顾这一营业场景中，我们测验考试用“大小模子协同”的架构，对保守金融营业做了一次 AI 原生的再创制。

　　12 月 19～20 日的 AICon 坐 将以 “摸索 AI 使用鸿沟” 为从题，聚焦企业级 Agent 落地、上下文工程、AI 产物立异等多个抢手标的目的，环绕企业若何通过大模子提拔研发取营业运营效率的现实使用案例，邀请来自头部企业、大厂以及明星创业公司的专家，带来一线的大模子实践经验和前沿洞察。一路摸索 AI 使用的更多可能，挖掘 AI 驱动营业增加的新径！

　　正在算力方面，我提出了一个概念，即大模子的深度取算力比。这有点雷同于从动驾驶范畴的环境。对于任何处置从动驾驶的公司来说，将从动驾驶手艺做到 90 分的程度，其成本是可控的，由于它们能够操纵一些公开的插件或通过 API 接口来处理问题。然而，当手艺程度跨越 90 分之后，每提拔一分所需的投入城市呈指数级增加。

　　第三类是“归因模子”，此中一个小功能是 OCR 持仓阐发：用户把散落正在招商银行、天天基金、领取宝、各家券商的持仓截图上传，系统解析成本、市值，再叠加产物表示取风险偏好，生成同一演讲，既便利客户复盘，也成为我们获客的新抓手。

　　我们的做法是正在对话流里埋入“企图识别”。当大模子判断用户需要更深层操做时，不再输出长篇文字，而是间接推送一张卡片——卡片背后就是原有功能页面被打散后的 API。用户点击卡片即可进入该页面，如许，学问不再被锁正在各自孤岛，而是以 API 的形式按需注入对话；大模子不必全知万能，只需能听懂企图，再挪用响应模块即可。既省了锻炼成本，又提高了 B 端场景的精确率，也让旧系统第一次以原生的体例被起来。