搜索
企业爆买 AI Box：本地算力成 AI 落地新选择
9 小时前
AI Box是一种小型设备，可放置于桌面，即便在断网状态下也能运行千亿参数的大模型。目前，苹果、英伟达、AMD、微软、英特尔等科技企业纷纷布局这一领域。与云端AI相比，本地部署的AI Box使用开源免费模型，硬件一次性购入后无需再支付token费用，且数据无需外传，非常适合用于预研、验证等试错场景。各厂商产品特色鲜明：苹果M系列芯片的统一内存架构满足大模型需求；英伟达推出DGX Spark等产品，提供与数据中心同源的软件栈；微软则推出适配Windows生态的Surface RTX Spark Dev Box；AMD和英特尔则主打兼容性与特定B端场景。目前，AI Box已在高职教育、律所等场景得到应用，有效提升了效率并保障了数据安全。然而，该设备仍面临ROI难核算、权责不清、成熟应用场景有限以及硬件扩容不便等挑战。AI Box并非旨在取代云端AI，而是承接特定需求，如反复试研、数据敏感、小团队固定算力等，其核心在于让算力落地并创造实际价值。
