如果你主要使用 Spring Boot，现在要考虑的已经不是“Java 能不能开发 AI 应用”，而是项目需要模型接入、RAG、Agent 编排，还是直接在 JVM 中运行模型。
这些项目解决的问题并不完全相同。Spring AI、LangChain4j 偏模型与应用集成；AgentScope、LangGraph4j 和 Embabel 更关注 Agent 运行与编排；DJL 则用于模型推理和训练。选型前先分清层次，会比只对比功能数量更有效。
基础框架
Spring AI
Spring AI 是 Spring 官方的 AI 应用开发框架，目标是用 Spring 风格的抽象接入模型、向量数据库和工具调用等能力。
对于已有 Spring Boot 项目，它的接入方式相对自然，主要提供以下抽象：
模型通信（ChatClient）：使用统一接口与 OpenAI、Ollama、Google Gemini 等模型交互。
提示词（Prompt）：结构化管理发送给模型的提示词。
检索增强生成（RAG）：通过 VectorStore 等抽象把外部知识库接入模型。
VectorStore工具调用（Function Calling）：允许模型调用 Java 应用中定义的方法。
记忆（ChatMemory）：管理多轮对话的上下文历史。
官方文档：https://spring.io/projects/spring-ai#learn。
https://spring.io/projects/spring-ai#learn
Spring AI Alibaba
Spring AI Alibaba 集成 Spring AI 生态，它是一个专为多智能体系统和工作流编排设计的项目。项目从架构上包含如下三层：
Agent Framework：以 ReactAgent 设计理念为核心的 Agent 开发框架，构建具备自动上下文工程和人机交互能力的 Agent。
Graph：低级别的工作流和多代理协调框架，是 Agent Framework 的底层运行时基座，帮助实现复杂的应用程序编排。
Augmented LLM：基于 Spring AI 底层抽象，提供模型、工具、多模态组件（MCP）、向量存储等基础支持。
在这三层之外，项目还提供两个偏平台化的组件：
Admin：一站式 Agent 平台，支持可视化开发、可观测、评估、MCP 管理，甚至与 Dify 等低代码平台集成，支持 DSL 迁移。
A2A（Agent-to-Agent）：支持 Agent 间通信，并可与 Nacos 集成做分布式协调。
官方文档：https://java2ai.com/。
LangChain4j
LangChain4j 是社区维护的 Java LLM 应用框架，提供统一的模型、Embedding、向量存储、工具调用和 RAG 接口。
它适合需要快速切换多个模型、向量库，或者希望保持框架相对独立的项目。用于大型系统时，工程结构、治理和可观测性仍需要结合现有基础设施补齐。
官方文档：https://docs.langchain4j.dev/。
AgentScope
AgentScope 是一个多智能体框架，提供 ReAct 推理、工具调用、记忆管理和多智能体协作等能力。项目同时提供 Python 和 Java 版本。
它和 Spring AI Alibaba 的侧重点不同：
AgentScope Java：原生为 Agentic（智能体）范式设计。它的核心是“Agent”，强调的是自主性、推理循环（ReAct）和多智能体之间的复杂博弈与协作。
Spring AI Alibaba：更侧重于 Workflow（工作流）编排。它基于 Spring AI 生态，擅长将 AI 能力作为工具融入到预定义的业务流中。
官方文档：https://java.agentscope.io/zh/intro.html。
https://java.agentscope.io/zh/intro.html
其他框架与工具
Solon-AI：Java AI 应用开发框架，支持 LLM、RAG、MCP 和 Agent，兼容 Java 8 到 Java 25，可与 Spring Boot、JFinal、Vert.x、Quarkus 等框架配合使用。
Agent-Flex：轻量级 Java LLM 应用开发框架，提供模型接入、提示词、工具、记忆、Embedding 和向量存储等能力。
Smile：基于 Java 和 Scala 的机器学习库。
LangGraph4j：用于构建有状态、多智能体应用的 Java 库，可与 LangChain4j 和 Spring AI 集成。它更偏向 Agent 执行图和状态管理，不是新的模型接入层。
Embabel Agent：面向 JVM 的 Agent 框架，把 LLM 交互、Java/Kotlin 代码和领域模型组合成 Agent 流程，并根据目标动态规划执行路径。
Deep Java Library：与底层引擎解耦的 Java 深度学习框架，可在 Java 应用中加载、训练和部署模型。它解决的是模型推理与训练问题，不是 RAG 或 Agent 编排框架。
对比
框架名称核心特点适用场景Spring AISpring 官方底座：模型/向量库/工具调用/记忆/RAG/可观测/结构化输出；强调可移植与模块化现有 Spring Boot 企业应用 AI 化Spring AI Alibaba面向 Agentic/Workflow/Multi-agent 的生产级体系：Agent Framework + Graph Runtime + Admin/Studio；支持 MCP/A2A/Nacos多智能体编排、复杂工作流、平台化治理与迁移（含可视化）LangChain4j社区强势：统一 API 连接多模型/多向量库；Agents/Tools/RAG；支持 MCP；可集成 Spring/Quarkus/Helidon快速原型、强灵活性、多模型快速切换Solon-AIJava 8~25 兼容；LLM/RAG/MCP/Agent/Ai Flow 全链路；可嵌入多框架历史系统/多框架场景、追求兼容性与全链路能力Agent-Flex轻量：LLM/Prompt/Tool/MCP/Memory/Embedding/VectorStore/文档处理；OpenTelemetry 可观测希望快速接入、保持较少依赖的 LLM 应用AgentScope JavaAgentic 原生：ReAct + Tool + Memory + 多 Agent；MCP+A2A（Nacos）；Reactor 响应式 + GraalVM Serverless自主智能体、分布式多 Agent、对生产可控性与性能要求高的场景
框架名称核心特点适用场景
框架名称
核心特点
适用场景
Spring AISpring 官方底座：模型/向量库/工具调用/记忆/RAG/可观测/结构化输出；强调可移植与模块化现有 Spring Boot 企业应用 AI 化
Spring AI
Spring 官方底座：模型/向量库/工具调用/记忆/RAG/可观测/结构化输出；强调可移植与模块化
现有 Spring Boot 企业应用 AI 化
Spring AI Alibaba面向 Agentic/Workflow/Multi-agent 的生产级体系：Agent Framework + Graph Runtime + Admin/Studio；支持 MCP/A2A/Nacos多智能体编排、复杂工作流、平台化治理与迁移（含可视化）
Spring AI Alibaba
面向 Agentic/Workflow/Multi-agent 的生产级体系：Agent Framework + Graph Runtime + Admin/Studio；支持 MCP/A2A/Nacos
多智能体编排、复杂工作流、平台化治理与迁移（含可视化）
LangChain4j社区强势：统一 API 连接多模型/多向量库；Agents/Tools/RAG；支持 MCP；可集成 Spring/Quarkus/Helidon快速原型、强灵活性、多模型快速切换
LangChain4j
社区强势：统一 API 连接多模型/多向量库；Agents/Tools/RAG；支持 MCP；可集成 Spring/Quarkus/Helidon
快速原型、强灵活性、多模型快速切换
Solon-AIJava 8~25 兼容；LLM/RAG/MCP/Agent/Ai Flow 全链路；可嵌入多框架历史系统/多框架场景、追求兼容性与全链路能力
Solon-AI
Java 8~25 兼容；LLM/RAG/MCP/Agent/Ai Flow 全链路；可嵌入多框架
历史系统/多框架场景、追求兼容性与全链路能力
Agent-Flex轻量：LLM/Prompt/Tool/MCP/Memory/Embedding/VectorStore/文档处理；OpenTelemetry 可观测希望快速接入、保持较少依赖的 LLM 应用
Agent-Flex
轻量：LLM/Prompt/Tool/MCP/Memory/Embedding/VectorStore/文档处理；OpenTelemetry 可观测
希望快速接入、保持较少依赖的 LLM 应用
AgentScope JavaAgentic 原生：ReAct + Tool + Memory + 多 Agent；MCP+A2A（Nacos）；Reactor 响应式 + GraalVM Serverless自主智能体、分布式多 Agent、对生产可控性与性能要求高的场景
AgentScope Java
Agentic 原生：ReAct + Tool + Memory + 多 Agent；MCP+A2A（Nacos）；Reactor 响应式 + GraalVM Serverless
自主智能体、分布式多 Agent、对生产可控性与性能要求高的场景
实战
智能面试平台
interview-guide 基于 Spring Boot 4.0 + Java 21 + Spring AI + PostgreSQL + pgvector + RustFS + Redis，实现简历智能分析、AI 模拟面试、知识库 RAG 检索等核心功能。非常适合作为学习和简历项目，学习门槛低。
系统架构如下：
提示：架构图采用 draw.io 绘制，导出为 SVG 格式，在 GitHub 深色模式下的显示效果会有问题。
提示：架构图采用 draw.io 绘制，导出为 SVG 格式，在 GitHub 深色模式下的显示效果会有问题。
AI 工作流编排系统
PaiAgent 是一个 AI 工作流可视化编排平台，可通过拖拽组合模型和处理节点，用于定义多模型协同的执行流程。
系统架构如下：
