算力快不过到达它的数据。一个加速器、或一颗跑模型的 MCU，大部分时间花在读权重、写激活上，而这些字节存在哪里、来得多快，定下系统真正达到的速度。边缘器件上的存储不是一样东西。它是一个小小的层级，每一层装一种不同的数据、有一种不同的访问模式，而给每一层挑器件，是设计自己的一块，不是对做运算那颗硅片的事后补充。

这些层按活分。boot 镜像和固件住在器件启动时读的非易失存储里。模型权重待在算力能在推理时足够快地把它流出来的地方。工作激活住在快的片上或外部 RAM 里。标定和配置，小而少改，待在它们自己一个小小的存储里。为其中一层挑的器件，对另一层是错的，而一个把存储当作原理图上一根单线对待的设计，往往很晚才发现这个区别。

通路里最慢的那一层，定下节奏。

定下节奏的带宽

这一切背后的数字是带宽。内存带宽怎样给真实推理速度封顶是更长的故事，而它的短版坐在本页每个选择的正中：一个模型按它权重到达的速率跑，而一个被内存带宽饿着的快处理器，在等下一块时空转。这些存储层就是为喂住那个速率而存在的。掐住它的那一层，就是定下帧数的那一层，不管它背后的算力在纸面上声称什么，这也是为什么量存储通路要在相信处理器首页数字之前。

带宽之所以咬人，是因为一个神经网络读的比它算的多。每一层把它整套权重拉过总线，去产出一套激活，所以一个带几百万参数的模型，每次推理搬几百万字节，不管那个运算单元多聪明。这个比值，搬动的字节对做掉的运算，定下一个设计是被它的算力卡住、还是被它的存储卡住，而在边缘上跑一个真实模型的器件，多半是被存储卡住。一个在装得进缓存的跑分上标称高吞吐的处理器，一旦模型大到要住进外部闪存或 RAM，就能掉到那个数字的一个零头，而这两个数字之间的差距，就是喂它那条通路的带宽。

boot 镜像和代码住在哪

器件碰到的第一层，是它从中启动的那个非易失存储。在很多边缘设计上这是一颗串行 NOR 闪存：密度够装固件、常常还有模型，便宜，几根脚就接好。这颗器件要么按需把代码喂给处理器，要么持有一个在启动时被拷进 RAM、从那里跑的镜像，而它做哪一种，既塑造启动时间、也塑造合这活的器件。

W25Q128JV 在边缘器件上持有 boot 镜像和模型，是这一层常见的一个选择，一颗 128 兆位的 SPI NOR，密度够把一个固件镜像和一个量化模型并排装下，让处理器在第一次推理之前把模型拷进工作存储。这次拷贝不是免费的：一个大模型在 boot 时从串行闪存里读出来，给上电加上一段看得见的延迟，而在一个醒来、推理、再睡去以省电池的器件上，那段延迟是能量预算的一部分，不是一次性成本。IS25LP128 作为边缘 AI 的代码存储，待在同一层、重点在持有代码，一颗同密度同引脚级别的 SPI NOR，一个设计能靠它做就地执行或放固件镜像，而在同一密度上有这样一个第二来源，是一次缺货只是个麻烦、还是一次重新设计之间的差别。接口和容量一样要紧。一个 boot 镜像走单条 SPI 线读出来，慢到一个大模型给上电加上几秒，而同一颗器件走四线模式读，把那个砍到一个零头，所以设计能匀给闪存的引脚数，直接反馈到用户在开机时等多久。密度和速度也跟封装和温度对换：一颗为密集板用小封装的器件，可能不带一颗更大的器件所带的等级评定，而一颗在台架上好好持有镜像的闪存，可能在工业范围的顶端丢失保持力，所以工作环境就坐在这个选择里、挨着那个兆位数。两颗器件最后都回答同一个问题：多少东西得熬过一次掉电，以及电回来时它得多快回来。把密度定对、给一个在产品寿命里长大的固件留余量，把读速度定对、合产品能容忍的启动时间，是这一层要的活，而这是那种在原理图上看着不值一提、等器件已经摆上、镜像不再装得下时就变贵的活。

诱惑是按今天的镜像来定这个存储。一个出货产品上的固件随每次更新而长，所以发布时合适的器件，可能两年后就没地方了，而加余量便宜的时候，是板子还在台架上的时候。

代码怎么从这一层跑出来，是它自己的决定。一颗就地执行的器件，直接从闪存把指令喂给处理器，省下一次拷贝要的 RAM，但把执行速度拴在闪存接口上；一颗持有压缩镜像的器件，在 boot 时把它一次交给 RAM、之后跑得快，代价是拷贝时间和落地的 RAM。很多边缘设计两样都做一点，热通路从 RAM 跑、冷代码留在闪存里，而早早点明哪个是哪个，让 RAM 预算保持诚实。

可靠性也住在这里。一个在现场自我更新的器件，需要 boot 存储熬过一次写到一半的掉电，这通常意味着持有两个镜像、在新镜像验证失败时退回到已知良好的那个。那份冗余把这一层得提供的空间翻倍，而一个把它漏掉的设计，会在一次更新把现场一台机器变砖的第一次、而不是在台架上，发现这个需要。

把权重流得够快

持有模型是一回事；把它足够快地喂给算力是另一回事，而这里带宽不再抽象。一个走普通 SPI、一次一位读出来的模型，把一颗有本事的加速器饿着。MT25QL128 走 QSPI 喂权重，用一个四线或更宽的串行接口回答这个，把每时钟的字节翻倍，让权重以算力用得上、而不是等着的速率到达。

这里的选择，由这颗器件能读多快、和模型要它权重多快之间的差距来驱动。一个装得进片上的小模型从不碰这一层；一个从外部闪存流出来的更大模型，靠它活、也靠它死。把接口位宽和时钟配到模型的需求、而不是配到数据手册上一个数字，是让加速器忙着、而不是停着的东西。

片上存储改变这笔账。一颗有够多内部 SRAM 来持住工作集的器件，每个权重读一次、把激活留在近处，于是外部那一层只扛初始装载；一颗缺它的器件，在推理中途溢到外部 RAM，每一层都付带宽罚金。那个内部存储的大小，不是核上的时钟，往往才是把一颗达到帧率的器件和一颗达不到的分开的东西，而这是在那个吞吐声称被照单全收之前要查的数字。

当一颗单独的串行器件跟不上时，通路加宽。一颗八线接口闪存、一颗一次从两个 die 流出的器件、或一颗坐在闪存和算力之间的更高带宽存储如 HyperRAM，每一个都用引脚、板面积和功耗换来每时钟更多的字节。伸手去拿这里面一个，是模型长出了那个简单层的信号，而诚实的做法是，在把板子定到更宽那条通路之前，先确认模型不能被缩到合更便宜那条。

给标定的小存储

不是板上每个字节都要密度或速度。标定常数、一个序列号、几个配置标志：小，少写，启动时读。AT24C256 在边缘器件上存标定和参数，就是为这个角色定大小的，一颗小 I2C EEPROM，持有一个器件需要记住的那一把值，不必为它们花一颗闪存。它是安静的那一层，它挣到一席之地，靠的是把那些让一台机器不同于下一台的参数，留在固件镜像之外，否则每改一次都逼一次重新构建。

磨损、耐久和长寿命

在现场被写的那一层有一个寿命，而无视它，是一个产品在一年之后、以任何台架测试都没抓到的方式失效的方式。闪存和 EEPROM 都随写而磨损，而一个记录数据或更新参数的设计，得拿循环数对着器件的额定耐久、在整个服役寿命上算账。一个在工厂写一次的存储担心保持力，多年无电持住它的内容；一个每小时写一次的存储担心耐久，熬过那个写次数。这两个担心往不同的器件拉，而点明一层面对哪一个，是为它挑选的开始。

温度往同一个方向拉。一颗为良性室内范围额定的器件，可能在一个户外或工业器件见到的温度下丢失保持力，所以环境跟密度和速度一起，属于这个选择。

在写频繁的地方，修法常常在设计怎么用这颗器件、而不在器件本身。把写摊到整个阵列、好让没有单个单元先磨穿，把小更新批成一次更大的写，以及留一个固件能读、好知道还剩多少寿命的计数器，每一个都把同一块硅片抻得更远。一个只按容量定大小、没想过它被写多频繁的层，就是那个很晚才给一个产品意外的层，而那个意外，总是一台停止记住别人告诉它什么的机器。

真正决定它的是什么

层级先来。一个点明了每一层里住什么的设计，boot 镜像、流出的权重、工作集、那些小参数，已经做完了难的那部分，因为每一层接着要的，是一颗对着它自己访问模式挑的器件，而不是一个谁都服务不好的单一折中。

带宽决定喂算力那一层。耐久和保持力决定在现场被写那些层。密度决定固件有没有地方长。这里面没有一个是首页那个容量数字，而合的那颗器件，是配到它那一层真正做的活的那颗。

供货收尾，和板上别处一样。一颗为出货多年的产品挑的存储器件，得是那种整段时间都买得到量的，第二来源在同密度同引脚上、在第一次投板前就点好名，而不是等第一次缺货之后才去找。