搜索
vLLM 团队成立创业公司 Inferact，目标打造世界领先的 AI 推理引擎
3 小时前
AI Infra领域的初创公司Inferact，由vLLM的创建者及核心维护者携手创立，在最新一轮种子融资中成功筹集到1.5亿美元，公司估值约达8亿美元。此次融资由Andreessen Horowitz和Lightspeed Venture Partners联合领投，并吸引了多家知名投资机构的跟投。vLLM支持多种模型架构和加速器，具备全球规模的推理能力。Inferact的目标是将vLLM打造成领先的AI推理引擎，以进一步推动AI技术的发展。随着大模型和生成式AI的日益普及，推理阶段对计算资源和成本的需求急剧增加。投资者开始将目光投向那些能够优化模型运行效率、降低推理成本的技术。Inferact正是瞄准了这一行业痛点，致力于提供高效的AI推理解决方案。近期，许多AI基础设施公司纷纷快速募资，这一趋势反映了行业对推理技术的高度关注。Inferact此次成功融资，不仅验证了开源技术的商业转化价值，也表明AI基础设施市场正逐步从训练阶段转向推理与部署阶段。
