据消息透露，人工智能芯片初创公司SambaNova Systems因融资困难，正考虑出售公司。SambaNova成立于2017年，总部位于美国加州，曾致力于为训练和推理打造基于统一架构的AI芯片。该公司在2023年发布了一款专为大语言模型微调和推理设计的芯片。其上一轮融资是2021年的D轮融资，融资总额超过11亿美元，估值超过50亿美元。

SambaNova在AI芯片领域具有独特地位，由三位芯片和AI/ML领域的传奇人物共同创立：CEO Rodrigo Liang曾是Sun Microsystems芯片部门的资深负责人，Kunle Olukotun是多核处理器奠基人，Christopher Ré则是活跃在各大ML/AI/LLM社区的意见领袖及连续成功创业者。公司内部承接了大量Sun Microsystems芯片部门的员工，拥有丰富的芯片开发经验和供应链管理能力。过去两年中，团队围绕大模型技术路线和产品线培养了数十名LLM模型工程师，并在Serving环节的服务部署上建立了先发优势。

然而，今年四月下旬，SambaNova大幅偏离了最初目标。与许多其他AI芯片初创公司一样，SambaNova最初希望为训练和推理提供统一架构，但从今年开始，他们放弃了训练的雄心，裁掉了15%的员工，将全部精力转向AI推理。这一转变并非个例，Groq和Cerebras等公司也曾做出类似调整。

SambaNova曾高度重视在其硬件上训练模型，发布了相关文章，并在官方文档中讨论训练问题。许多分析师和外部观察家认为，SambaNova凭借单芯片满足推理和训练市场需求，相较于Groq等竞争对手拥有独特优势。公司还投入大量时间和精力实现高效的训练，针对训练设计和优化了硬件和软件功能。

如今，SambaNova突然放弃大部分训练相关工作，转而专注于推理。主要原因包括：推理是一个更容易解决的问题，可能拥有比训练更大的市场，以及英伟达在AI训练芯片领域的绝对主导地位。许多分析师认为，人工智能推理市场规模可能是训练市场的十倍。推理过程中，梯度无需存储，激活函数使用后即可丢弃，大大减少了内存占用，降低了芯片所需内存层次结构的复杂性。此外，推理所需的芯片间联网相对简单，适合许多初创公司的AI芯片网络功能。

SambaNova的转变反映了AI芯片领域的一个普遍趋势，即从训练转向推理。这一趋势的背后，既有市场规模的考量，也有技术实现的难度差异。英伟达在AI训练芯片领域的强大地位，使得初创公司更倾向于选择相对容易且市场潜力更大的推理领域。未来，随着AI应用的普及和大型模型的发展，推理市场有望继续扩大，成为AI芯片领域的重要增长点。