欢迎光临,我们是一家专注中小型企业营销推广服务的公司!

咨询热线:400 9868 577
淮南兰乔电子商务有限公司
新闻中心News
淮南兰乔电子商务有限公司

vLLM 团队成立创业公司 Inferact,目标打造世界领先的 AI 推理引擎

作者:花韻仙語 | 点击: | 来源:花韻仙語
2301
2026
最热门的开源大语言模型推理引擎——vLLM的创始团队与核心开发者正式成立AI基础设施初创企业:Inferact。据彭博社消息,Inferact在近期完成的新一轮种子轮融资中成功募集1.5亿美元,投后估值约为8亿美元。本轮融资由全球顶尖风投机构AndreessenHorowitz(a16z)与LightspeedVenturePartners共同领投,SequoiaCapital、AltimeterCapital、RedpointVentures以及真格基金等多家知名投资...

最热门的开源大语言模型推理引擎——vllm 的创始团队与核心开发者正式成立 ai 基础设施初创企业:inferact。

据彭博社消息,Inferact 在近期完成的新一轮种子轮融资中成功募集 1.5 亿美元,投后估值约为 8 亿美元。本轮融资由全球顶尖风投机构 Andreessen Horowitz(a16z)与 Lightspeed Venture Partners 共同领投,Sequoia Capital、Altimeter Capital、Redpoint Ventures 以及真格基金等多家知名投资方也参与了跟投。

目前,vLLM 已兼容超过 500 种模型架构,可在 200 余种硬件加速器上高效运行,并已支撑起全球化规模的推理服务。Inferact 表示,其使命是将 vLLM 打造*球首屈一指的 AI 推理基础设施平台,持续推动推理成本下降与吞吐性能提升,从而全面加速 AI 技术的落地与普及。

在 AI 全流程中,推理(inference)指的是将已完成训练的模型部署至真实场景并执行预测任务的关键环节。随着大模型和生成式 AI 应用的爆发式增长,推理阶段所消耗的算力资源与运营成本正迅速攀升。相较以往资本高度聚焦于模型训练环节,当前市场正将更多目光投向推理优化技术——即如何让模型“跑得更快、更省、更稳”。Inferact 正是直击这一核心挑战而生。

近期,一批专注 AI 推理层的基础设施公司密集获得大额融资,凸显出业界对高性能推理能力的迫切需求。提升推理效率不仅意味着更低的延迟与更强的并发能力,更能显著减少云端部署开销,成为 AI 实现

规模化商业应用的核心支点。Inferact 此次融资既印证了高质量开源项目向商业化成功跃迁的可能性,也标志着 AI 基础设施赛道的战略重心正从“训练为王”加速转向“推理制胜”。

源码地址:点击下载

相关推荐
我要咨询做网站
成功案例
建站流程
  • 网站需
    求分析
  • 网站策
    划方案
  • 页面风
    格设计
  • 程序设
    计研发
  • 资料录
    入优化
  • 确认交
    付使用
  • 后续跟
    踪服务
  • 400 9868 577
    info#ilanqiao.cn
Hi,Are you ready?
准备好开始了吗?
那就与我们取得联系吧

咨询送礼现在提交,将获得兰乔电子商务策划专家免费为您制作
价值5880元《全网营销方案+优化视频教程》一份!
下单送礼感恩七周年,新老用户下单即送创业型空间+域名等大礼
24小时免费咨询热线400 9868 577
合作意向表
您需要的服务
您最关注的地方
预算

直接咨询