AI 技术栈分层：芯片、算力、模型与应用

用建筑工程总分包体系理解 AI 产业分层：芯片、算力、模型、应用各是哪一层，为什么“自研大模型”必须追问自研的是哪一层。

本课回答的业务问题：供应商说“自研大模型”“私有化部署”“买算力送平台”，这些说法分别站在产业哪一层？作为买方，你真正需要采购的是哪一层？

前置课程：第 1 课（AI 全景图）。

读完本课你将能够：

1. 画出“芯片 → 算力 → 模型 → 应用”四层简图，说清每层卖什么、按什么计费；
2. 听到“自研大模型”，能追问出对方自研的是哪一层——从零训练、开放权重微调，还是 API 封装；
3. 把一份采购报价单按层拆开核价，算清“按量付费”与“私有化买断”两本账的量纲差异；
4. 记住分层图之外的四个横向件——数据、工具、运行环境、评估——验收清单不漏项。

一句话定义

AI 技术栈是从底层硬件到上层应用的分层结构：芯片 → 算力 → 模型 → 应用。这是便于入门的简图，实际各层存在跨层依赖，企业也可能同时采购算力、部署服务和数据工程。

先拆底下两层。芯片层是干活的设备：芯片是集成电路的统称，AI 语境里常说 GPU、NPU，是两类适合跑 AI 计算的芯片——白话讲，它们擅长同时做海量的简单计算，正好对上 AI“计算量巨大、单个计算不难”的胃口。有点反差的是，GPU 本来是为打游戏做图形渲染设计的，因为这份“并行蛮力”被发现恰好适合 AI 计算而身价倍增；NPU 则是后来专为这类计算设计的芯片。算力层是把设备组织成产能：一块芯片不构成产能，这一层把成千上万块芯片连同机房、电力、冷却和调度软件组织成可按需租用的“产能”——云厂商的租用服务、IDC（互联网数据中心，即集中运行服务器的机房产业）都在这层。芯片层卖硬件，算力层卖租赁：重资产投入，按用量或租期计费；你按 token 付的模型费里，就折着这一层的电费与折旧。

再拆上两层。模型层是在产能上“养”出来的能力：模型是算法在算力上“喂”海量数据训练出来的产物（第 1 阶段第 3 课展开）。基础大模型是“通用能力半成品”——会读会写、知识面广，但不懂你项目的合同口径，卖法主要是 API（应用程序接口——程序之间约定好的调用方式；按调用量计费是它的常见卖法）和订阅。应用层是交付到你手上的产品：合同审查工具、智能巡检系统，面向具体业务场景、由最终用户直接使用。绝大多数企业买方站在这层做决策——你买的不是模型，是“审查从三天变三小时”。

最后别略过那句提醒：这是简图。箭头说的是“下层是上层的物理与能力基础”，不表示采购必须从底买到顶。分层是拆解问题的工具，不是刻板的组织架构图。

生活化类比（建筑行业版）

把 AI 产业想成建筑工程的总分包体系：

关键对应关系：芯片折旧、电费与算力租金影响服务成本；API 定价还受产品策略、供需、缓存和服务等级影响——就像混凝土报价里含着水泥厂和搅拌站的成本，但不能反推混凝土价就是水泥价加运费。

类比成立在哪。一是“每层有自己的报价口径”：你不会拿水泥单价去质疑楼盘售价，也不该拿芯片市价去推算工具年费——成本传导真实，报价构成复杂。二是“总分包责任链”：楼盘出问题逐层追责；AI 系统不好用，可能是应用层集成差，也可能是模型层能力不足，分了层才知道责任找谁。三是“业主不必自建搅拌站”：开发商不造挖掘机照样盖楼，绝大多数企业同理，站在应用层采购即可。

类比失效在哪。一是建筑各层靠图纸、规范和合同刚性衔接，接口稳定；AI 各层之间是“软”依赖，上游一升级、一调价，下游跟着晃，风险会直接传导进你的合同。二是建筑先设计后施工、节奏统一；AI 各层迭代不同步，你的应用还在验收，底座模型可能已换代。三是“设计院 + 构件厂”只类比了“产出可复用半成品”，模型层“用得越多摊得越薄”的规模效应在建筑半成品上并不成立。这张表用来提问和拆报价，别硬套组织架构。

本质与能力边界

1. 四层是四种生意，四本账

芯片层卖硬件——出货即收入，买方成本是一次性采购加维保。算力层卖租赁——机房、电力、折旧全是重资产投入，所以它偏爱长约和用量承诺。模型层卖 API/订阅——讲规模效应：训练投入是一次性的大头，摊到海量调用上越摊越薄；且 API 定价还受产品策略、供需、缓存和服务等级影响，不能从成本单方面反推。应用层卖场景价值——客户为业务结果付费，不关心你调了谁家的模型。

四本账的口径对照（价格为动态信息，采购时以当时官方渠道为准）：

买方启示一句：先归层，再核价。同样一句“一年 20 万”（示例数字，虚构），可能是模型 API 的用量费（随用量浮动）、算力租金（固定产能）、应用订阅（按账号付费）或混合包——量纲不同，直接比总价没有意义；拆开才知道买的是什么、涨价的敏感因素在哪。

2. “自研”必须追问定位：两个字，三种成本

“自研大模型”至少有三种口径。其一，从零训练：自己攒数据、租算力、组团队把模型从零练出来——极少见、极烧钱。其二，基于开放权重模型微调：拿别家公开的模型文件（开放权重，白话讲就是把训练好的模型参数公开出来，可下载部署），再用自有数据做调整训练（微调，第 4 阶段第 2 课展开）。其三，API 封装：调用外部模型接口，外面包装自己的业务系统——本质是应用层集成。三种口径的成本结构、数据归属、效果上限完全不同：从零训练买的是“能力归我”，代价是天量投入和不确定性；微调买的是“行业口味”，效果依赖底座和数据质量；API 封装买的是“集成与场景”，能力上限受制于上游。

所以不能只凭“是否自训”判断价值：一个把场景吃得很准的 API 封装产品，可能比一次平庸的微调值钱得多，反过来也成立。判断靠追问口径和验收数据，不靠“自研”两个字。

3. 买方的位置：站在应用层，操四层的心

绝大多数企业站在应用层做整合决策——你不造芯片、不建机房、不训基座模型，你采购“能力”并装进业务流程。但下层的三类约束最终都会落进你的合同：私有化方案的报价结构（硬件什么规格、折旧归谁、维护含什么）；国产芯片的适配限制（哪些软件能跑、性能打不打折，具体型号选型时核实）；上游 API 调价的风险传导（你的工具供应商按量付费给模型厂，模型厂调价，你的续约价跟着变）。

一个典型剧本（虚构示例）：签约时按当时价格锁一年，续约条款没写调价上限；第二年上游涨价，供应商报价上浮 40%，而系统已嵌进流程、更换成本极高——谈判地位瞬间反转。防法不复杂：合同里写清上游依赖、锁价期限、调价通知义务和退出条款。一句话：别人的层，你的账。

4. 分层图之外：四个横向件

数据（怎么清洗、标注、管理）、工具（模型能调用什么）、运行环境（在哪执行、什么权限）、评估（怎么验收）——这四样不属于任何一层，却决定项目成败。原因很直接：分层图回答“向谁买什么”，横向件回答“买回来能不能成”。模型能力再强，喂进去的合同库版本混乱，照样答错（数据）；模型连不上你的台账系统，就只是个会说话的顾问（工具）；它有什么权限，决定它能闯多大的祸（运行环境，见第 3 阶段第 3 课）；没有评估集，验收就退化为“看演示”，而演示案例永远是准备得最好的案例（评估，见第 3 阶段第 1 课）。

评审任何方案时，按四件各问一句就不容易漏项：数据——材料谁清洗、谁标版本，错版材料进了系统谁负责？工具——能连哪些系统（台账、OA、造价软件），每次调用留不留痕？运行环境——权限是不是按最小化开的，操作日志能不能审计？评估——有没有评估集和量化验收指标，还是只能“看演示”？

5. 两个极端都别走

一个极端是“做 AI 就要从芯片、模型做起，否则受制于人”——这如同要求开发商自造挖掘机：你在应用层采购能力，供应商之间的竞争本身就是你的议价筹码。另一个极端是“应用层没技术含量，随便买”——恰恰相反，评估和集成的坑全在这一层：提示怎么写、材料怎么给、输出怎么校验、错误怎么兜底，全是应用层的功课，也是本课程第 2、3 阶段的主战场。正解一句：买方的主场在应用层，但用分层提问守住对下层的知情权。

实战演练：把两份报价拆到层，算两本账

场景（虚构）：青柏产业园一期试点要把 300 份历史合同跑一遍“付款条款抽取”（与第 1 阶段第 1 课实战演练同一批任务）。收到两份报价——方案 A 云端按量：模型 API 输入 ¥0.002/千 token、输出 ¥0.008/千 token（示例单价，虚构）；方案 B 私有化部署：一次性 ¥40 万 + 每年 ¥5 万维护（示例数字，虚构），含设备与系统交付。

第 1 步：归层。方案 A 买的是模型层能力，算力层成本折在 token 单价里（混凝土价含水泥价）；应用层是你自己的抽取流程。方案 B 是三样打包——算力层（设备）、模型层（部署的模型）、应用层（交付的系统）一次买断。

第 2 步：算方案 A 的账。沿用第 1 阶段第 1 课的实测口径：单份输入约 3.3 万 token（正文实测均值约 3.07 万 + 指令约 0.2 万），输出预算 0.3 万 token。单份费用 ≈ 0.002×33 + 0.008×3 ≈ ¥0.09；一轮 300 份 ≈ ¥27；每月跑一轮，年费用 ≈ 27 × 12 ≈ ¥324。

第 3 步：算方案 B 的账，点破量纲差异。方案 B 首年 ≈ ¥45 万，约是方案 A 的千倍量级（示例数字）——但这不是“谁贵”，是量纲不同：A 买的是“这一项任务的用量”，随业务量线性涨；B 买的是“设备 + 部署 + 一套系统”的固定投入，外加“数据不出域”的合规价值（见第 3 阶段第 3 课）。把任务量放大到每年 36 万份（虚构示例），A 的年费 ≈ 0.09 × 360,000 ≈ ¥3.24 万，仍远低于 B——但趋势已经写明：A 的费用跟着业务量走，B 的费用跟着资产走。

再算一笔平衡点，你就知道该问什么：B 首年比 A 多花约 ¥45 万，以 A 单份 ¥0.09 计，A 要跑约 500 万份（450,000 ÷ 0.09）才追平首年差价；之后 B 每年 ¥5 万维护，对应 A 跑约 55 万份/年。也就是说，单比省钱，私有化要靠“长期 + 海量”才算得平——它真正的卖点是数据合规与可控性，供应商若拿“省钱”论证私有化，这笔账就能当场拆穿。两本账都还没算人工复核与集成成本（第 1 阶段第 1 课提醒过：模型费往往不是大头），但量纲差异已经够做第一层筛选。

第 4 步：输出一页决策纸。两方案归层表 + 各自年度费用 + 待追问清单——A 追问：数据传输与存储条款、调价与退出条款、失败重跑是否计费；B 追问：什么芯片几张、含不含折旧与换新、模型升级谁负责、并发上限多少。选型框架第 3 阶段第 4 课展开，本步先把“钱和边界”落下来。

建工案例：一份方案的三个追问

背景（虚构）：某供应商向青柏产业园项目推销“建筑行业智能审查平台”，方案书厚达 60 页（虚构示例），“自研 AI 中台”“行业垂直大模型”贯穿全文，报价只有一个总价，不分项。

做法：合约部没急着谈价，先用四层简图列三问书面发函。模型层：底座是哪家模型、哪个版本？微调过吗？数据来源？版本升级时我们的效果会变吗？算力层：私有化部署需要什么卡、几张？含在报价里还是另算？并发上限多少？应用层：审查规则谁维护？误报怎么处理？验收标准是什么？

踩坑：第一轮函询就踩了两个坑。其一，问题初稿问“模型是不是自研的”，对方回复“是”——评审会差点据此定标。复盘才发现，“自研”的三种口径（从零训练 / 开放权重微调 / API 封装）都能自称“是”，问法太笼统等于没问。其二，报价单写“AI 服务器 2 台”，没有芯片型号、没有数量明细，既无法核价，也没法写进合同附件。

修复：第二轮改成可核验的问法。要求书面写明底座来源，并附“版本升级须配合回归测试、效果不达标可退场”的条款；设备按“芯片型号 × 数量 × 产权归属”分项列价进合同附件；应用层补验收口径——误报率怎么算、抽查比例、谁终审。供应商最终书面确认：底座为开放权重模型微调；硬件 8 张卡另计，不在原报价内（虚构示例）；规则库由其维护，验收口径经谈判补齐后才签约。

结论：三个问题分别落在三层，缺一层都无法判断报价合理性——模型层答不清，你不知道能力上限和升级风险；算力层答不清，你核不了价；应用层答不清，你验不了收。这套追问沉淀成了部门评审模板（第 4 阶段第 4 课再展开）。

供应商话术拆解

话术：“我们自研了建筑行业垂直大模型。”

用分层框架问三个问题，并盯住合格回答的样子：

1. “自研的是哪一层？”——从零训练、开放权重微调，还是 API 封装？合格回答：明确三选一并给佐证——从零训练能谈训练投入、团队规模、基座论文或开源仓库；微调能报基座模型与版本、许可证条款；API 封装能直说上游是谁、断供怎么办。不合格回答：“核心算法都是自己的”这类无法核验的说法。
2. “训练或微调数据从哪来，客户的合同数据会不会进你们的模型？”——问数据归属。合格回答：列数据来源，讲清客户数据的去向（不进训练集 / 脱敏后用 / 明示授权后用），并接受写进合同；不合格回答：“数据安全您放心”——不放心的从来不是态度，是条款。
3. “和直接调通用大模型加行业规则相比，效果差异有没有验收数据支撑？”——问溢价依据。合格回答：拿同题对照说话——同一批合同、同一套指标，两种方案各跑一遍给数据；不合格回答：“行业模型天然更懂建筑”——“天然”不是验收指标。

三个答案对应三种完全不同的估值逻辑。

常见问答

Q1：“买算力送平台”这种捆绑划算吗？ 先拆层，再谈划算。算力层是重资产生意，“送”的应用层产品成本必然折进算力总价或长期合约——没有白送的平台。应对：要求分项报价，算力按量、平台按账号分开计价，再与不捆绑的组合比价。捆绑未必是坑（可能省了集成成本），但拆不开的捆绑一定没法核。

Q2：私有化部署是不是等于数据绝对安全？ 不等于。部署形态只回答“模型和数据在哪个机房跑”这一个问题；权限管理、日志审计、供应商远程运维入口、保密与违约条款同样决定安全水位（第 3 阶段第 3 课展开）。另外，私有化的底座模型仍有供应链问题：谁维护、升级谁把关、出漏洞谁响应，都要写进合同。

Q3：为什么上游 API 调价会落到我的合同里？ 因为传导链条是通的：你的工具供应商按量向模型厂付费，模型厂调价，供应商成本变动，最终体现为你的续约涨价或服务缩水。签约时就问三句：底座依赖哪些上游？锁价多久？调价怎么通知、能不能退出？把传导链写进条款，比出事再谈好得多。

Q4：“开放权重模型”是什么？免费拿的模型能放心用吗？ 权重可以粗略理解为模型训练好的“参数文件”；开放权重就是厂商把这个文件公开，可下载部署在自己环境里跑。但“文件免费”不等于“用起来免费”：要有算力跑、有人运维、做适配，还要核对许可证条款（能否商用、有何限制，以官方文本为准）。它给私有化多了一条省钱的路径，代价是升级维护自己扛。

Q5：应用层产品是不是就是“套壳”，没什么技术含量？ “壳”不壳不重要，验收数据才重要。同一个底座模型，检索建得好不好、提示写得好不好、输出校验严不严，效果可以差得很远——这些全是应用层的活，也是本课程第 2、3 阶段的主要内容。反过来，只壳没有集成的产品，同题对照一测就现形。

Q6：芯片选型要不要现在就定国产还是进口？ 本课不给型号结论。芯片路线与适配限制属动态信息，今天写死的清单半年后可能过时，采购时按当时官方渠道核实。要做的是把“验证条款”写进流程：拿你的真实任务在候选环境跑一遍验收用例，用结果说话，再谈采购。

Q7：供应商推“AI 一体机”，开箱即用，这跟私有化部署是一回事吗？ 一体机是把算力层、模型层、应用层预装进一台（或一组）设备的打包卖法，部署形态上算私有化的一种，但采购要点一个没变：里面是什么芯片、几张？装的什么模型、哪个版本？软件升级和模型换代怎么收费、谁负责？坏了谁修、多久到场？一体机把“打包”做到了极致，优点是交付快，代价是分层更不透明——所以本课的分层追问一句都不能省。开箱即用，不等于开价即合理。

自测

供应商说：“我们平台底层全自研，不依赖任何外部模型。“请列出你会追问的三个问题，判断他到底”自研“了哪一层、这句话的可信度。

概念卡片

延伸阅读

• 分层之外，数据、工具、运行环境与评估四个横向件贯穿全课程，第 2、3 阶段展开。
• 具体芯片型号、算力价格属动态信息，采购时按当时官方渠道核实，不作为固定口径记忆。