AI 中间件

中游 · 模型与平台

0

相关公司

0

行研报告

0

研究笔记

产业链定位

赛道人工智能

层级中游 · 模型与平台

品类简介

模型开发部署与运维工具，包括 MLOps、推理引擎、模型网关和向量检索；算力资源服务归算力基础设施，安全评测产品归AI安全与评测。

同层级其他品类

大语言模型多模态模型 AI Agent 语音与音乐模型 AI 安全与评测

产业链全景

上游 · 零部件

推理

推理引擎（vLLM/TGI/TRT-LLM）KV Cache优化量化部署

编排

Prompt管理RAG框架工作流引擎

运维

模型网关负载均衡监控告警AB测试

→

中游 · 整机

AI中间件

→

下游 · 应用场景

AI应用开发者企业AI平台AI SaaS产品