一个Key调所有模型,千匠星枢想做企业AI的“总调度“

2026-07-21 16:32:09 来源:东方网企业
        【每日科技网】

  从C端断供,到B端的隐形失控

  7月19日晚,月之暗面发布说明,Kimi K3发布后48小时用户请求量逼近集群承载极限,即日起暂停C端新订阅。K3参数量2.8万亿,数小时登顶Arena代码评测榜首——模型很强,但算力接不住。

  这是C端的故事,结局是显性的、可感知的暂停。B端的逻辑更隐蔽:企业不会突然被断供,但账单会悄悄膨胀。从试用到规模化部署,月调用费用从几千元跃升到几十万元,往往只需几个月时间。Kimi算力告急是一个极端案例,但它暴露的模型调用成本不可控问题,在企业侧每天都在发生。

  企业的AI 账单问题往往出在三个层面。第一,模型选择粗放。多数企业"选一家、用到底",客服问答和合同审核走同一个模型。简单对话用高阶模型是过度付费,复杂分析用轻量模型则质量不够、返工成本更高。企业缺乏按任务复杂度自动切换模型的能力,要么过度付费,要么质量不达标。

  第二,多模型管理成本高。豆包适合中文应用,DeepSeek擅长推理,OpenAI生态丰富,Claude长文本能力突出——企业实际需要多家模型互补。但每接入一家就要单独签约、对接、计费、处理故障转移,十家模型意味着十套对接逻辑。很多企业选择妥协:只用一两家,放弃其他模型的能力优势。

  第三,成本不可观测。Token消耗散落在不同厂商账单里,哪个部门用了多少、哪个场景消耗最多、哪些调用是低效的,没有统一计量和归因,成本不可观测就不可优化。

  千匠星枢:大模型时代的统一接入层

  这三道暗坑,本质上都指向同一个缺口:企业需要一层能够统一管理多家模型的中间层,而不是让选型、对接、计量各自为战。

  千匠星枢正是针对这个缺口给出的答案。它处于模型消费者与提供商之间,将多家模型的服务能力聚合封装,向上交付统一调用接口。架构上,星枢分三层:接入层面向个人开发者、企业客户和千匠内部产品;聚合平台核心承担认证、路由和适配三项职能;最底层是模型生态,目前已聚合豆包、DeepSeek、Kimi、智谱、通义、ChatGPT、Claude等10余家主流模型。对开发者来说,接入门槛也被降到最低——不用学习新接口,只需做几个简单的参数替换就能完成对接,一个Key调用所有模型,统一鉴权计费。企业不再需要逐家签约对接,新模型上线自动可用,维护成本从"N套对接"降为"一套网关"。

  据悉,千匠星枢的核心能力来自智能路由:系统分析每次请求的任务类型、复杂度和上下文长度,结合企业预设策略(质量优先或成本优先),自动选择性价比最高的模型。日常客服走轻量模型控制成本,合同审核切换高阶模型保证质量,涉及核心数据的场景则路由到私有化模型以满足合规要求。整个路由决策耗时控制在10毫秒以内,不构成可感知的延迟。

  当某个模型厂商出现服务波动,星枢自动将请求切换到备用模型,业务侧无感知。这解决了单一模型"厂商一抖动,业务就中断"的风险。治理层面,星枢提供Token消耗的部门级核算——哪个部门用了多少、调用了哪些模型,都有明细可查。企业可为不同部门设置预算阈值,消耗触达阈值时系统自动切换到更经济的模型,而非直接中断。这让AI投入变得可量化。更长期看,随着企业通过星枢的调用量增加,系统积累的路由数据和效果反馈也在增加——哪些任务用哪个模型效果最好、成本最低,这些数据反过来优化路由策略,让决策越来越精准,形成一个正向循环。

  在千匠的整体架构中,星枢是基础设施层。向上为千匠问天和千匠智元提供统一的模型调用能力,向下聚合主流大模型生态。千匠自身AI产品运行时的每一次模型推理,都经过星枢的路由决策。安全合规方面,星枢通过了安全认证,具备数据脱敏、审计日志和企业级治理能力。对数据安全有刚性要求的金融、医疗等行业,可将涉及核心数据的请求路由到私有化部署的模型,实现数据不出域。

  变量与局限

  千匠星枢瞄准的是模型调用层的成本与治理问题,但落地效果并非一劳永逸,仍受几个现实变量牵制。

  路由决策质量取决于策略成熟度。 新接入的模型缺乏历史调用数据,路由判断的准确性会打折扣——从"可用"到"最优"仍需实际业务数据的积累。千匠方面称新模型对接周期已压缩到数天,但磨合期客观存在。

  成本节省幅度取决于企业自身的调用结构。 如果90%的请求都是高复杂度任务,节省空间自然收窄;反之,大量低复杂度的客服和查询请求,节省比例会更明显。

  更宏观的变量在于大模型定价策略本身。 过去一年模型调用价格持续下降,国产模型已压到极低区间。如果调用成本趋近于零,星枢作为中间层的优化价值会被稀释。但模型降价不等于企业不需要治理——多模型管理、故障转移、部门核算、安全合规,这些需求不会因为价格下降而消失。

  值得注意的是,千匠星枢并非孤例。做模型统一接入和智能路由的企业已经不少,从云厂商到独立创业公司都在这条赛道上尝试。这说明单个厂商的路由策略是否够精准,还只是竞争的表层。随着企业接入的模型越来越多、场景越来越复杂,"统一接入层"本身会成为企业AI基础设施里绕不开的一环。而谁能在路由精度、故障转移和治理能力上跑得更快,谁就有机会把这块基础设施的位置占住。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

宾利首款纯电车Torcal内饰曝光:手工切割水晶 豪华科技感爆棚

昨日,宾利汽车为即将推出的首款纯电动车型Torcal发布了全新预告视频,首次重点展示内饰设计。外观方面,Torcal采用全新的“悬浮式菱形格栅”,将传统进气格栅重新塑造成极具辨识度的品牌标志,既延续宾

宾利

1天前

HUD取代仪表盘 长安深蓝S05内饰官图发布:极致年轻化

近日,深蓝汽车官方发布全新深蓝S05内饰官图,新车采用悬浮星舰设计,在座舱配色、内饰用料、智能配置、空间布局与储物实用性等方面全面优化,延续纯电与增程双动力选择,为用户带来更精致、更实用的出行座舱体验

鸿蒙智行首款方盒子 享界G9实拍图流出:墨绿配色休旅感十足

鸿蒙智行首款方盒子SUV享界G9更多实拍图流出,此次展示的车型采用了墨绿色车漆,整体低调内敛,但又不失活泼,休旅氛围浓厚。享界G9长宽高为5206(5377)*2050*1897mm,轴距3160mm

小米澎程车内空间视频公布:地方大到能打台球

小米已经正式官宣将于7月30日推出澎程N70、N90系列两款全新SUV,小米创始人雷军在社交平台上发布视频展示澎程车内空间,包括纯平地板、方正格局、超长滑轨,空间大到甚至可以打台球。澎程(SkyNom

小米澎程

1天前

98.8万起!全新莲花EMIRA Scura限量版跑车上市:中国仅9台

莲花正式发布EMIRAScura限量版跑车,官方起售价98.8万元,国内配额仅有9台。新车名称致敬2009年ExigeScura经典车型,以暗黑风格设计传承莲花纯粹的赛道造车理念。莲花EMIRAScu

老款燃油彻底换代!全新红旗H7预售定档:综合续航逼近2000km

据一汽红旗官方消息,全新红旗H7将于8月13日开启预售。该车已于本月开启盲订,在2026年7月7日至10月31日期间,用户支付99元意向金,即可在提车时免费升级价值万元的全场景领航辅助功能。该智驾系统

红旗H7

1天前