AI进入组织,不是轨道,是旷野:速石Token中枢产品矩阵更新与选型指南

AI进入组织的方式,不是轨道,是旷野。
轨道是先有路线,再有列车
旷野是先有人出发,路才逐渐出现。

研发人员可能从一个API Key开始;
一个团队可能先购买一体机;
集团平台可能一开始就面对多个子公司;
有的企业先部署私有模型和GPU;
有的运营方从第一天起,服务的就是独立外部客户。
他们没有统一的起点,也不会经过相同的中间阶段。

更现实的情况是,同一个组织内部还可能同时存在多条路径:
研发团队使用自建模型;
市场部门调用外部MaaS; 
总部建设统一治理平台;
某个业务部门开始面向客户提供AI服务。
每一条路径都有自己的来由,彼此独立生长,也可能在后来交汇。

上个月,我们介绍了企业级AI资源治理与运营中心——速石Token中枢(FAAP-fastHub)的整体概念与定位:新品发布|速石Token中枢:你的AI资源需要一个“大脑”
在此基础上,我们近期对速石Token中枢产品矩阵做了一次更新,将相关能力进一步梳理为四条产品线。这一次,我们将完整展开这套产品矩阵:四条产品线之间是什么关系,分别适合哪些场景,用户应该如何选择与组合,以及它们与FAAP-MLOps联动后能带来什么价值。

不管AI进入组织的方式如何,围绕AI能力的供给、使用、治理与运营,我们希望速石能陪伴用户从任何位置开始,去往任何方向。

01、速石Token中枢产品矩阵——四条产品线

先看看最新版速石Token中枢产品矩阵,包括四条产品线:

fastHub Team&Team Pro 元驭一体机
fastHub Enterprise 企业版
fastHub Factory 运营版
fastHub MaaS 模型即服务平台

分别承接团队共享、企业治理、对外经营和模型服务需求。

一个团队开始共用模型:fastHub Team&Team Pro元驭一体机

当一个团队只有少数人在用AI时,账号和Key各自保管,往往还能应付。
等到更多成员加入,问题就来了:谁可以使用哪些模型,额度怎么分,团队一共用了多少,成员离开后权限怎么收回?

fastHub Team&Team Pro(元驭一体机)面向一个团队或部门,把模型接入、账号、Key、额度和Token用量放到一起管理。产品采用软硬一体化交付模式,10分钟就能开启团队级AI治理。

详细介绍可戳这里:今日上市 | 元驭一体机:专治“散装AI”,10分钟开启团队级AI治理


总部要管理多个内部组织:fastHub Enterprise企业版

如果要管理的不是一个团队,而是总部、事业部、子公司、项目组和授权外包团队,情况就不同了。
这些组织可能要各自设置权限、模型范围和额度,各看各的用量和账目;与此同时,总部还要统一设置安全底线,查看全局使用情况。

fastHub Enterprise企业版面向的就是这种场景。
TA通过管理面沉淀视图、控制面定义规则和流量面执行策略,把身份、权限、路由、预算、安全、审计、计量和内部运营规则落实到模型调用中。
可以把TA理解为:集团平台团队像一个“内部AI运营商”,向下属单位开通服务、发放Key、分配额度,再统一查看使用情况和核对账目。

准备把模型能力提供给外部客户:fastHub Factory运营版

如果服务对象不再是内部部门,而是独立外部客户,问题就从内部治理变成了对外经营。
在当前产品矩阵中,这部分能力被独立定义为 fastHub Factory运营版,使内部治理与外部经营的产品边界更加清楚。

fastHub Factory运营版这时需要处理客户开户、套餐、价格、额度、计量、结算和持续运营,还要把不同来源的模型包装成客户能够购买和调用的服务。

想先把模型用起来:fastHub MaaS平台

如果主要需求是直接调用模型,不想自己建设和维护模型服务,可以先看 fastHub MaaS(Model as a Service)模型即服务平台。TA由速石官方托管运营,个人用户和开发者注册后即可独立使用https://hub.fastone.cc/


团队和企业也可以把fastHub MaaS无缝接入上述fastHub Team/Enterprise/Factory产品线,成为统一治理体系中的上游模型资源来源,为企业提供从模型供给到资源运营的完整闭环。这样的好处有两点:
1. 一个平台负责到底,全链路可控,更安全、更合规,降低管理复杂度; 
2. 更智能的资源调度与成本优化,从“能用”走向“越用越好”。

02、四个容易混淆的地方

1. 元驭一体机和Enterprise企业版的区别,不仅是公司大小
元驭一体机管理一个使用同一套规则、额度和账目的团队;Enterprise企业版管理多个需要独立权限、预算和账本的内部组织。
一家大公司的独立研发团队可能只需要元驭一体机;一家人数不多的企业,只要存在多个独立管理边界,也可能需要Enterprise企业版。仅仅“有多个部门在用”,并不是选择Enterprise的充分条件。

2. Factory运营版不是Enterprise企业版的高级版
Enterprise企业版服务总部、子公司和项目组等内部组织;Factory运营版服务独立外部客户。判断依据不是规模,而是模型服务是否越过组织边界,平台是否需要承担客户开户、套餐、定价和结算责任。


3. 模型数量和Token用量,不能直接决定产品
一个高频应用可以消耗大量Token,但管理关系仍然简单;一个用量不大的集团试点,也可能已经涉及多级权限、安全和项目核算。
选型要看管理关系,而不是只看资源规模。


4. 四条产品线解决的是两类不同问题
fastHub MaaS解决模型服务供给:用户从哪里获得可以调用的模型资源。fastHub Team/Enterprise/Factory三条产品线解决模型能力进入不同场景后,怎样被共享、治理和运营。

03、四选一?NO,这是一道多选题

这四条产品线不是一条打怪升级路线。
用户可能只选择其中一条,也可能组合使用。

先看:是否需要fastHub提供模型资源服务
如果需要直接调用托管模型资源,可以选择fastHub MaaS。
如果已经采购了公有模型、其他MaaS,或者拥有私有模型和自建推理服务,也可以继续使用原有资源。

再看:是否需要管理模型进入团队、组织或外部业务后的使用关系

  • 一个团队或部门共同使用:买fastHub Team&Team Pro元驭一体机
  • 总部要管理多个内部组织:评估fastHub Enterprise企业版
  • 给独立外部客户提供服务:了解fastHub Factory运营版

而如果接入的资源还包括企业自建的GPU和推理服务,就会进一步产生模型发布、算力分配和运行管理需求,则可以选择速石Token中枢与FAAP-MLOps进行产品联动。而这,就到了我们下一章节:

04、从模型调用到算力运行:速石Token中枢与FAAP-MLOps的产品级联动

对于自建GPU和推理服务的用户,一次模型调用并不是完整链路的终点,最终还得由推理服务和底层GPU完成实际运行。
速石Token中枢产品矩阵,主要围绕模型调用展开:谁可以调用模型,可以使用什么模型,额度怎样分配,Token用量和成本如何记录。
FAAP-MLOps(速石训推一体算力平台)与Token中枢同属于速石FAAP产品体系,可以统一纳管GPU资源、发布模型并管理推理服务。

关于FAAP如何构建从算力到应用的完整闭环,可以参考:速石科技FAAP全面适配华为昇腾,构建下一代自主创新AI基础设施

具体产品联动过程:
模型发布为推理服务后,作为模型资源接入fastHub Team/Enterprise/Factory产品。业务请求经过fastHub时,Token消耗记录在调用侧;请求进入自建推理服务后,GPU和推理资源的使用记录在运行侧。两个平台再通过租户、组织、项目和推理服务等维度建立关联。

模型调用侧负责回答“谁在使用AI”,算力运行侧则要回答“支撑这些调用的资源被谁、被什么任务使用”。
可以简单理解为:速石Token中枢管Token账,FAAP-MLOps管算力账。

“两账合一”意味着什么?

“两账合一”的价值,是让用户可以沿着同一条业务链继续追问:

  • 谁发起了模型调用;
  • 调用了什么模型,消耗了多少Token;
  • 请求进入了哪个推理服务;
  • 推理服务占用了哪些内部算力;
  • 当前资源是正常运行、出现拥堵,还是仍有闲置。

Token账说明模型能力在被谁使用,算力账说明内部资源被怎样使用。两边关联后,企业看到的不再只是模型调用量或GPU总利用率,而是某个团队、项目、应用或客户同时消耗了哪些资源。

两套产品联动,有哪些好处?

1. 看清一项AI业务的完整资源消耗
当某个项目的AI使用增长时,用户不仅能看到Token请求和外部模型费用,也能看到相关推理服务占用了多少内部算力。

2. 在自建模型与外部MaaS之间作出选择
自有GPU不意味着所有任务都应该放回内部,使用外部MaaS也不意味着内部算力没有价值。结合Token使用和算力负载,用户可以判断哪些任务适合自建模型,哪些更适合按量调用。

3. 为容量规划和算力采购提供依据
当AI用量增加时,用户可以分辨增长的是外部模型费用,还是内部推理压力;内部资源是真的不足,还是仍有GPU没有被充分使用。

4. 从模型调用继续追踪到运行环境
当AI应用出现延迟或错误时,平台团队可以从速石Token中枢的调用记录继续查看推理服务和底层资源状态,判断问题位于应用、调用入口、模型服务还是算力环境。

05、常见问题FAQ

Q1:使用fastHub Team、Enterprise或Factory,必须同时使用fastHub MaaS吗?
不需要。fastHub MaaS是一种模型服务来源,不是使用其他三条产品线的前提。用户可以继续使用已经采购的公有模型、其他MaaS、私有模型和自建推理服务,再根据团队共享、组织治理或对外经营的需要,接入相应的速石Token中枢产品。

Q2:已经有私有模型和GPU,还需要速石Token中枢吗?
两者解决的问题不同。私有模型和GPU回答“模型在哪里运行”,Token中枢回答“谁能调用、使用什么模型、额度怎么分、用量和成本归到哪里”。已有模型和算力可以继续使用,并作为模型资源接入相应产品。

Q3:什么情况下还需要FAAP-MLOps?
如果用户不仅要调用自建模型,还要统一管理GPU资源池、模型发布、推理服务、负载、利用率和资源归因,就需要进一步评估FAAP-MLOps。如果全部使用外部模型服务,主要需求只是模型接入、Token计量和调用治理,则不一定需要部署FAAP-MLOps。

Q4:fastHub Factory是这次新增加的能力吗?
不是。面向外部客户的开户、套餐、定价、计量和运营能力此前已经存在。这次产品矩阵更新,是将这些能力独立定义为fastHub Factory运营版,从而更清楚地区分组织内部治理与外部服务经营。

END

速石科技致力于成为
| 一家提供"端到端统一计算解决方案"的公司
半导体/智能制造/能源/新药研发/人工智能
说到计算,统统在我们碗里
而且自下而上全栈适配国产化生态系统
同时,打造高校新质生产力教学科研创新平台
以产业经验赋能高校教学与科研场景
培养实战型人才

扫码免费试用或预约专家1对1沟通~

更多电子书
欢迎扫码关注小F(ID:imfastone)获取

你也许想了解具体的落地场景:
企业级Vibe Coding实践:效率飙升500%——我们中招了一种新型“戒断反应”
如何用AlphaFold2,啪,一键预测100+蛋白质结构
只做Best in Class的必扬医药说:选择速石,是一条捷径
超大内存机器,让你的HFSS电磁仿真解放天性
从“地狱级开局”到全球首款液氧甲烷火箭,我们如何助力蓝箭冲破云霄
普冉半导体逐步布局自主可控,渐次提升研发效率

高校集成电路产教融合实训平台:
高校人才培养如何“化零为整”,对抗集成电路产业碎片化?
小学生算法:我国集成电路设计人才缺口到底有多大??
【案例】远离“纸上谈兵”,深职大打造国内首个EDA远程实训平台

我们的解决方案/产品:
新品发布|速石Token中枢:你的AI资源需要一个“大脑”
内测邀请】集成电路设计的AI“外挂”?速石IT-CAD在线智能助手
今日上新——FCP
专有D区震撼上市,高性价比的稀缺大机型谁不爱?
从“单打独斗”到“同舟共集”,集群如何成为项目研发、IT和老板的最佳拍档?
国产调度器之光——Fsched到底有多能打?

八大类主流工业仿真平台【心累指数】终极评测

近期动态:
速石科技FAAP全面适配华为昇腾,构建下一代自主创新AI基础设施
速石科技正式发布新质生产力教学科研创新平台,聚焦跨学科专业教学实训与科研
速石科技携手珠海先进集成电路研究院,正式入驻横琴ICC
速石科技完成龙芯、海光、超云兼容互认证,拓宽信创生态版
速石科技入驻粤港澳大湾区算力调度平台,参与建设数算用一体化发展新范式
速石科技成NEXT PARK产业合伙人,共同打造全球领先的新兴产业集群

图片

相关推荐

发表评论

电子邮件地址不会被公开。 必填项已用*标注

微信扫一扫

微信扫一扫

微信扫一扫,分享到朋友圈

AI进入组织,不是轨道,是旷野:速石Token中枢产品矩阵更新与选型指南
返回顶部

显示

忘记密码?

显示

显示

获取验证码

Close