Spring SseEmitter 消息推送,并实现大模型流式接口
最近在处理项目中,处理关于大模型流式接口的对接,并将处理后的数据,按照流式方式发送给前端。在了解实现方案中,发现基于 OkHttp Sse + Spring SseEmitter 的技术方案。OkHttp Sse 实现对大模型输出的流式结果进行监控处理,并通过 Spring SseEmitter 将处理后的结果输出到前端。
当你的才华还撑不起你的野心时,那你就应该静下心来学习
最近在处理项目中,处理关于大模型流式接口的对接,并将处理后的数据,按照流式方式发送给前端。在了解实现方案中,发现基于 OkHttp Sse + Spring SseEmitter 的技术方案。OkHttp Sse 实现对大模型输出的流式结果进行监控处理,并通过 Spring SseEmitter 将处理后的结果输出到前端。
在项目中,事务可以有效的防止在程序出错时,对于数据的错误修改,回滚到修改之前。
spring事务和数据库事务一样,都有四个特性(ACID):
AOP(Aspect Orient Programming),一般称为面向切面编程,作为面向对象的一种补充,用于处理系统中分布于各个模块的横切关注点,比如事务管理、日志、缓存等等。AOP实现的关键在于AOP框架自动创建的AOP代理,AOP代理主要分为静态代理和动态代理,静态代理的代表为AspectJ;而动态代理则以Spring AOP为代表。静态代理是编译期实现,动态代理是运行期实现,可想而知前者拥有更好的性能。本文主要介绍Spring AOP的两种代理实现机制,JDK动态代理和CGLIB动态代理,关于Java代理。
Spring IoC容器:Spring通过控制反转实现了松散耦合,对象们给出它们的依赖,而不是创建或查找依赖的对象们。开发人员在开发过程中,把对象的创建和销毁交给了spring容器,在使用的时候,只需要向容器申请就好了。这样就是的程序实现了解耦。