SpringAI系列（基础概念springai系列 API）

参照该课程基础概念tokentoken是语言模型的 计费/生成 基本单位大概理解成每token生成0.75个中文。API KEY由于大部分人不会部署模型到本地所以需要消耗token来调用模型而调用模型的时候需要使用API Key进行身份验证所以需要准备一个厂商的API Key。promptprompt是输入给模型的文本模型会根据这个文本来生成相应的输出。狭义上prompt就是我们对大模型说了什么广义上还包括了其他属性比如当前设置的温度Temperature、top_p等参数这些参数会影响模型的输出结果。例如{ model: deepseek-v4-pro, messages: [ { role: system, content: 这里输入一些人物设定、场景设定、对话风格等信息来引导模型生成符合预期的内容如你是一个段子高手。 }, { role: user, content: 这里是用户输入的内容如开个玩笑 } ], temperature: 1.0, }接口调用当拥有一个API Key后就可以通过HTTP的post请求来调用大模型的接口向厂家提供的接口发送一个包含prompt与api key的请求模型会根据这个prompt来生成相应的输出。例如curl https://api.deepseek.com/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer ${DEEPSEEK_API_KEY} \ -d { model: deepseek-v4-pro, messages: [ {role: system, content: You are a helpful assistant.}, {role: user, content: Hello!} ], thinking: {type: enabled}, reasoning_effort: high, stream: false }一些参数上面prompt除了我们发送给大模型的messages还有一些参数会影响模型的输出结果常见的参数有temperature控制生成文本的随机程度值越高生成的文本越随机值越低生成的文本越确定。top_p与Temperature类似值越高生成的文本越多样化值越低生成的文本越集中。大模型本质是一个概率模型输入一个字后面有不同概率接不同的字假如输入“我”后面可能接40%接“是”、30%接“喜欢”、20%接“想”等等top_p假如说是100%就会考虑所有的可能性top_p如果是40%就只会考虑这里的是了。max_tokens控制生成文本的最大长度单位是token。stream控制是否开启流式输出开启后模型会在生成文本的过程中逐步返回结果而不是等到生成完成后一次性。上面的messages列表中可以发现出现了不同的role常见的有system系统角色设定AI的行为和角色。user用户角色表示用户的输入。assistant助手角色表示AI的回复。tool工具调用的消息。SpringAISpring AI 作为 Spring 官方推出的 AI 应用开发框架其核心设计哲学是将 AI 能力无缝集成到 Spring 生态系统中为 Java 开发者提供熟悉、一致的编程模型。Spring AI 不是要重新发明轮子而是基于 Spring 的核心原则——依赖注入、面向切面编程和模板模式为各种 AI 服务提供统一的抽象层。准备参考https://springdoc.cn/spring-ai/index.html版本/依赖JDK:17 (官方最低要求17)SpringAI 1.0.0SpringBoot : 3.4.0一个大模型的starter: 我用的deepseekdependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-deepseek/artifactId /dependency配置yml文件spring:ai:deepseek:api-key:你的apikeyAPI - MessageSpring AI 提供消息类型对应prompt中messages列表的不同message。常见的消息类型有SystemMessage系统消息用于设定AI的行为和角色。UserMessage用户消息表示用户的输入。AssistantMessage助手消息表示AI的回复。ToolMessage工具消息表示工具调用的消息。他们都继承自AbstractMessage包含textContent和messageType两个属性对应’content’和’role’。各message之间关系如图一个简单的示例展示构建一个聊天接口packagecom.example.springai.controller;importorg.springframework.ai.chat.messages.SystemMessage;importorg.springframework.ai.chat.messages.UserMessage;importorg.springframework.ai.chat.model.ChatResponse;importorg.springframework.ai.chat.prompt.Prompt;importorg.springframework.ai.deepseek.DeepSeekChatModel;importorg.springframework.ai.deepseek.DeepSeekChatOptions;importorg.springframework.ai.deepseek.api.DeepSeekApi;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.web.bind.annotation.GetMapping;importorg.springframework.web.bind.annotation.RequestParam;importorg.springframework.web.bind.annotation.RestController;importreactor.core.publisher.Flux;importjava.util.List;importjava.util.Map;RestControllerpublicclassChatController{// 注入一个DeepSeekChatModel这个模型是Spring AI提供的一个接口封装了调用DeepSeek模型的逻辑我们可以通过它来调用DeepSeek模型生成文本。privatefinalDeepSeekChatModelchatModel;AutowiredpublicChatController(DeepSeekChatModelchatModel){this.chatModelchatModel;}GetMapping(/ai/generate)publicMapgenerate(RequestParam(valuemessage,defaultValueTell me a joke)Stringmessage){// 构建messages列表UserMessageuserMessagenewUserMessage(message);SystemMessagesystemMessagenewSystemMessage(你是一个段子高手);// 准备构建Prompt消息列表和相关参数参数通过DeepSeekChatOptions来设置DeepSeekChatOptionsdeepSeekChatOptionsnewDeepSeekChatOptions();deepSeekChatOptions.setTemperature(1.4);deepSeekChatOptions.setModel(deepseek-v4-flash);deepSeekChatOptions.setMaxTokens(2048);// 通过builder构建DeepSeekChatOptionsDeepSeekChatOptionschatoptionsDeepSeekChatOptions.builder().model(deepseek-v4-flash).temperature(1.4).maxTokens(2048).build();// .call()方法通过ctrlP查看参数他可以传入三种类型分别是String、Message、Prompt。// 例如// return Map.of(generation, chatModel.call(Tell me a joke) ); // 传入string// return Map.of(generation, chatModel.call(systemMessage, userMessage) ); // 传入messagereturnMap.of(generation,chatModel.call(newPrompt(List.of(systemMessage,userMessage),deepSeekChatOptions)));// 传入prompt}}API - Prompt刚才的案例中已经初步展示了Prompt的使用Prompt包括消息列表和相关参数。可以new一个Prompt包含List.ofMessage和DeepSeekChatOptions也可以通过builder来构建chatoptions。API - ChatResponse.call()方法的返回值是一个ChatResponse对象包含generation、chatResponseMetadata。其中generation是模型生成的信息包含assisantMessage和chatGenerationMetadatachatResponseMetadata包含一些元信息如生成的token数量、使用的模型等。assisantMessage里面包含了生成的文本内容、消息类型等信息。遇到陌生API快速学习的小tip:可以打个断点运行的时候看一下尝试调用对象的方法(对象.方法)右键对象可以对表达式求值看看每一个getxxx方法都出来些什么东西API - ChatModel结构如图其实流程和prompt/chatresponse的结构上文已经有所提及了chatmodel就是把我们输入的prompt转换成厂商接口需要的requset格式调用厂商接口拿到response后再把结果转换成chatresponse。需要使用的时候这样注入一下就行了。privatefinalDeepSeekChatModelchatModel;AutowiredpublicChatController(DeepSeekChatModelchatModel){this.chatModelchatModel;}此外前面用的都是一次性的返回chatmodel还支持流式响应。使用chatModel.stream()方法返回一个流Flux。Flux中的内容取决于入参如果入参是String或者Message那么流中的内容就是String直接返回就行如果入参是Prompt流中的内容是ChatResponse需要chatResponse.getResult().getOutput().getText()获取文本。如果是用中文输入会返回乱码解决方案是调整编码server:servlet:encoding:charset:UTF-8enabled:trueforce:true待更新…