Spring AI 初体验

2024-06-27, Thursday - 1 分钟前

0. 背景

作为后端研发，在大模型背景下我们能做什么？基于这样的思考，展开探索。

1. Spring AI

进入官网依据指引安装好后，在官网 Readme 中发现如下内容：

Create an account at OpenAI Signup and generate the token at API Keys.

The Spring AI project defines a configuration property named spring.ai.openai.api-key that you should set to the value of the API Key obtained from openai.com.

在 openai 宣布全面封锁中国ip的情况下，卒，转头考虑阿里巴巴推出的 Spring AI Alibaba。

2. Spring AI Alibaba

在 Spring AI 基础上提供阿里云通义系列大模型全面适配。

申请灵积模型 API Key，下载源码。

代码改改，打完收工，今天又认识了一个新朋友 Spring AI Alibaba!

上图为通过静态页面对话，其他接口：

/ai/audio/speech：文本生成.wav 语音文件
/ai/audio/transcription: 实时语音识别
/ai/example：对话（tell me a joke）
/ai/stream: 批量文本（请告诉我西红柿牛腩怎么做？）生成内容看起来并不是很能用，有待提高
/ai/output: 输出演员的电影
/ai/prompt-tmpl: prompt 优化后产生的结果
/ai/stuff: 问答
/ai/roles：问答
/ai/img: prompt 生成图像，结果容易报错

2024-06-28T00:02:29.007+08:00  WARN 9378 --- [tongyi-example] [nio-8396-exec-5] .w.s.m.s.DefaultHandlerExceptionResolver : Resolved [org.springframework.web.context.request.async.AsyncRequestNotUsableException: ServletOutputStream failed to write: java.io.IOException: Broken pipe]

额度说明

免费额度：接口调用量

免费时间：一个月

模型类别	模型名称	最近使用时间	免费额度(剩余量/总量)	最近到期免费额度
通义千问	qwen-turbo	2024-06-28 9时	993626/1000000	额度：993626/1000000 有效期：2024-07-27
通义万相	wanx-v1	2024-06-28 0时	496/500	额度：496/500 有效期：2024-12-24
Sambert语音合成	sambert-zhichu-v1	2024-06-27 23时	29668/30000	额度：29668/30000 有效期：2024-07-01

3. CentOS 部署

 mvn clean install -Dpmd.skip=true -Dcheckstyle.skip=true

Reference: