编辑｜泽南 大模型推理的基石 vLLM，现在成为创业公司了。 北京时间周五凌晨传来消息，由开源软件 vLLM 的创建者创立的人工智能初创公司 Inferact 正式成立，其在种子轮融资中筹集了 1.5 亿美元（约合 10 亿 元人民币），公司估值达到 8 亿美元。 该公司认为，AI 行业未来面临的最大挑战不是构建新模型，而是如何以低成本、高可靠性地运行现有模型。 毫无疑问，Inferact 的核心是开源项目 vLLM，这是一个于 2023 年启动的开源项目，旨在帮助企业在数据中心硬件上高效运行 AI 模型。 | III | | | | | | | | | Sign in | 글도 | | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | | ಇ vllm-project / vllm | | | Sponsor | 2 Notifications | | ಳಿ Fork 12.8k | | 8 | Star ( | 68.2k | | <> Code | · Issues (1.7k | 8% Pull requests 1.4 ...