最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Springboot SseEmitter流式輸出的實(shí)現(xiàn)代碼

 更新時(shí)間:2025年03月14日 11:36:27   作者:專注寫bug  
本文介紹了Spring Boot中使用SseEmitter實(shí)現(xiàn)流式輸出的原理和示例代碼,通過SseEmitter,可以實(shí)現(xiàn)客戶端和服務(wù)器之間的實(shí)時(shí)通信,服務(wù)器可以分塊發(fā)送數(shù)據(jù),而客戶端可以實(shí)時(shí)接收和處理這些數(shù)據(jù),,感興趣的朋友一起看看吧

Springboot SseEmitter流式輸出 

前言

最近做AI類的開發(fā),看到各大AI模型的輸出方式都是采取的一種EventStream的方式實(shí)現(xiàn)。

不是通常的等接口處理完成后,一次性返回。
而是片段式的處理完成一個(gè)分片,就立馬告知前端做出處理;后續(xù)處理出新的片段則再次發(fā)送給客戶端。

Spring框架中就有一個(gè)類似的方式實(shí)現(xiàn)。SseEmitter。

SseEmitter 簡介

SseEmitter 是在Spring 4.2開始引入的,使用的話需要注意版本,不過Springboot 2.X 是可以玩的。

測(cè)試demo

編寫一段代碼,循環(huán)返回給客戶端。如下所示:

package cn.xj.controller;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import java.io.IOException;
import java.util.concurrent.Executor;
import java.util.concurrent.Executors;
import java.util.concurrent.TimeUnit;
@RestController
@RequestMapping("/sse/mitter")
public class SseMitterController {
    @GetMapping(value = "/stream", produces = "text/event-stream")
    public SseEmitter stream() {
        // 設(shè)置默認(rèn)超時(shí)時(shí)間  0L 表示無限
        // 注意:這里的單位是  ms
        SseEmitter sseEmitter = new SseEmitter(30000L);
        // 最好不要阻塞主線程
        Executors.newSingleThreadExecutor().execute(() -> {
            try {
                for (int i = 0; i < 10; i++) {
                    sseEmitter.send("這只是一個(gè)流式輸出案例:" + i);
                    TimeUnit.SECONDS.sleep(1);
                }
                // 通知客戶端消息發(fā)送完畢
                sseEmitter.complete();
            } catch (Exception e) {
                e.printStackTrace();
                sseEmitter.completeWithError(e);
            }
        });
        return sseEmitter;
    }
}

瀏覽器請(qǐng)求,打開控制臺(tái)查看數(shù)據(jù)格式,如下所示:

注意點(diǎn)

異常一 ResponseBodyEmitter is already set complete

這種問題通常是 設(shè)置超時(shí)時(shí)間timeout太小導(dǎo)致的。網(wǎng)上很多demo中說的這個(gè)單位是秒,但實(shí)際測(cè)試來看,單位應(yīng)該是毫秒 ms

補(bǔ)充:SpringBoot中SSE流式輸出中止的核心代碼

SpringBoot中SSE流式輸出中止的核心代碼

在大模型會(huì)話中,會(huì)有一個(gè)功能是停止生成功能。這個(gè)功能如果在前端實(shí)現(xiàn),既取消監(jiān)聽后端的流式返回事件,會(huì)導(dǎo)致后端日志中報(bào)錯(cuò)連接中斷等錯(cuò)誤。

由此引出的需求,我的接口A中使用了sse流式返回,需要做一個(gè)接口B,B的功能是中止第一個(gè)接口的流式返回,以下是核心代碼和思路:

方案一:需要借助redis,在輸出時(shí)循環(huán)判定來解決。

import org.springframework.beans.factory.annotation.Autowired;  
import org.springframework.data.redis.core.RedisTemplate;  
import org.springframework.stereotype.Controller;  
import org.springframework.web.bind.annotation.RequestMapping;  
import org.springframework.web.bind.annotation.ResponseBody;  
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;  
import javax.servlet.http.HttpServletRequest;  
import java.io.BufferedReader;  
import java.io.IOException;  
import java.io.InputStreamReader;  
import java.util.concurrent.TimeUnit;  
@Controller  
public class MyController {  
    @Autowired  
    private RedisTemplate<String, Object> redisTemplate;  
    @RequestMapping("/startStreaming")  
    public SseEmitter startStreaming(HttpServletRequest request) throws IOException {  
        String requestId = request.getId(); // 獲取請(qǐng)求的唯一標(biāo)識(shí)符  
        String key = "shouldStopStreaming_" + requestId; // 生成唯一的key  
        SseEmitter emitter = new SseEmitter();  
        BufferedReader bufferedReader = new BufferedReader(new InputStreamReader(/*輸入流*/));  
        // SSE輸出邏輯  
        String line;  
        while ((line = bufferedReader.readLine()) != null) {  
            Boolean shouldStop = (Boolean) redisTemplate.opsForValue().get(key);  
            if (shouldStop != null && shouldStop) {  
                break; // 檢查shouldStopStreaming標(biāo)志,若為true則中斷循環(huán)  
            }  
            // 發(fā)送數(shù)據(jù)給客戶端  
            emitter.send(line);  
        }  
        // 刪除key,確保不再需要該key時(shí)將其移除  
        redisTemplate.delete(key);  
        return emitter;  
    }  
    @RequestMapping("/stopStreaming")  
    @ResponseBody  
    public String stopStreaming(HttpServletRequest request) {  
        String requestId = request.getId(); // 獲取請(qǐng)求的唯一標(biāo)識(shí)符  
        String key = "shouldStopStreaming_" + requestId; // 生成唯一的key  
        // 設(shè)置shouldStopStreaming為true,終止流式輸出  
        redisTemplate.opsForValue().set(key, true, 1, TimeUnit.HOURS); // 設(shè)置過期時(shí)間為1小時(shí)(可根據(jù)需要調(diào)整)  
        return "Streaming stopped";  
    }  
}

A接口定期從Redis中獲取shouldStopStreaming的值,并檢查是否應(yīng)該中止流式輸出。B接口使用RedisTemplate將shouldStopStreaming的值設(shè)置為true,以指示A接口中止輸出。由于Redis的操作是原子性的,并且RedisTemplate提供了線程安全的訪問,這樣可以確保多個(gè)線程之間的協(xié)調(diào)和線程安全性。

方案二:使用本地緩存,結(jié)合SseEmitter特性實(shí)現(xiàn)(實(shí)際使用的此種方案)

private final Map<String, SseEmitter> sseCache = new ConcurrentHashMap<>(10);
## 對(duì)話接口中put一下前端隨機(jī)生成的不唯一emitterId
sseCache.put(emitterId, emitter);
## 停止回答接口
    @Override
    public void stop(String emitterId) {
        if (sseCache.containsKey(emitterId)) {
            sseCache.get(emitterId).complete();
            sseCache.remove(emitterId);
        }
    }

到此這篇關(guān)于Springboot SseEmitter流式輸出 的文章就介紹到這了,更多相關(guān)Springboot SseEmitter流式輸出 內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • IDEA配置SpringBoot熱啟動(dòng),以及熱啟動(dòng)失效問題

    IDEA配置SpringBoot熱啟動(dòng),以及熱啟動(dòng)失效問題

    這篇文章主要介紹了IDEA配置SpringBoot熱啟動(dòng),以及熱啟動(dòng)失效問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-11-11
  • SpringBoot搭建go-cqhttp機(jī)器人的方法實(shí)現(xiàn)

    SpringBoot搭建go-cqhttp機(jī)器人的方法實(shí)現(xiàn)

    本文主要介紹了SpringBoot搭建go-cqhttp機(jī)器人的方法實(shí)現(xiàn)
    2021-12-12
  • springboot 中異步任務(wù),定時(shí)任務(wù),郵件任務(wù)詳解

    springboot 中異步任務(wù),定時(shí)任務(wù),郵件任務(wù)詳解

    這篇文章主要介紹了springboot 與異步任務(wù),定時(shí)任務(wù),郵件任務(wù),本文通過實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2023-09-09
  • 掌握SpringMVC中@InitBinder的實(shí)際應(yīng)用

    掌握SpringMVC中@InitBinder的實(shí)際應(yīng)用

    這篇文章主要介紹了掌握SpringMVC中@InitBinder的實(shí)際應(yīng)用,@InitBinder是Spring MVC框架中的一個(gè)注解,用于自定義數(shù)據(jù)綁定的方法,通過在控制器中使用@InitBinder注解,可以將特定的數(shù)據(jù)綁定邏輯應(yīng)用于請(qǐng)求參數(shù)的處理過程中,需要的朋友可以參考下
    2023-10-10
  • Springboot整合Swagger3全注解配置(springdoc-openapi-ui)

    Springboot整合Swagger3全注解配置(springdoc-openapi-ui)

    本文主要介紹了Springboot整合Swagger3全注解配置(springdoc-openapi-ui),文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2022-03-03
  • java服務(wù)自動(dòng)停止原因查找方式

    java服務(wù)自動(dòng)停止原因查找方式

    這篇文章主要介紹了java服務(wù)自動(dòng)停止原因查找方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-12-12
  • Maven的使用之繼承與聚合

    Maven的使用之繼承與聚合

    這篇文章主要為大家詳細(xì)介紹了Maven的繼承和聚合,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來幫助
    2023-04-04
  • SpringBoot壓縮png, jpg, jpeg, webp類型圖片的實(shí)現(xiàn)代碼

    SpringBoot壓縮png, jpg, jpeg, webp類型圖片的實(shí)現(xiàn)代碼

    這篇文章主要介紹了SpringBoot壓縮png, jpg, jpeg, webp類型圖片的實(shí)現(xiàn),文中通過代碼示例和圖文結(jié)合的方式給大家講解的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作有一定的幫助,需要的朋友可以參考下
    2024-08-08
  • hutool?工具類基本使用教程

    hutool?工具類基本使用教程

    Hutool?是一個(gè)?Java?工具包,也只是一個(gè)工具包,它幫助我們簡化每一行代碼,減少每一個(gè)方法,讓?Java?語言也可以?“甜甜的”,下面通過本文學(xué)習(xí)下hutool?工具類基本使用教程,感興趣的朋友跟隨小編一起看看吧
    2021-12-12
  • 聊聊Spring Boot 如何集成多個(gè) Kafka

    聊聊Spring Boot 如何集成多個(gè) Kafka

    這篇文章主要介紹了Spring Boot 集成多個(gè) Kafka的相關(guān)資料,包括配置文件,生成者和消費(fèi)者配置過程,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),需要的朋友參考下吧
    2023-10-10

最新評(píng)論

富川| 尼木县| 璧山县| 栾川县| 临洮县| 遂昌县| 磐安县| 伊吾县| 舞阳县| 托克托县| 东阿县| 新建县| 巩留县| 宝鸡市| 兴国县| 泾川县| 阳城县| 洪江市| 扎囊县| 南郑县| 图片| 五原县| 新干县| 屯昌县| 龙州县| 宜州市| 钟祥市| 柳江县| 耿马| 泾源县| 德惠市| 尤溪县| 临汾市| 二连浩特市| 历史| 刚察县| 东海县| 泽州县| 额敏县| 榕江县| 青浦区|