首页技术区最新随笔(rss) RSS

通俗易懂:AI大模型基于SSE的实时流式响应技术原理和实践示例

     摘要: 本文引用了后台技术汇一枚少年郎“大模型应用之:SSE流式响应”的内容,下文有修订和重新排版。1、引言文章介绍了SSE(Server-Sent Events)技术在大模型流式响应中的应用,包括其发展历程、ChatGPT流式输出原理、SSE技术特点及与WebSocket的对比,并提供了两种流式响应落地方案。* 相关阅读:《全民AI时代,大模型客户端和服务端的实时通信到...  阅读全文

2025-08-14 14:31 作者: Jack Jiang【评论:0】【阅读:32】 

长连接网关技术专题(十三):基于Netty的携程高性能网关异步改造实践

     摘要: 本文由携程技术Butters分享,原题“干货 | 日均流量200亿,携程高性能全异步网关实践”,下文有修订和重新排版。1、引言本文分享的是携程API网关全异步改造的实践分享,包括从Zuul 1.0同步架构升级为基于Netty的全异步架构,通过RxJava实现业务流程异步化,结合流式转发、ZGC等技术显著提升性能,并构建控制面实现多协议统一治理与模块化编排。 &nb...  阅读全文

2025-08-07 12:01 作者: Jack Jiang【评论:0】【阅读:42】 

转转千万级用户量消息推送系统的架构演进之路

     摘要: 本文由转转平台业务负责人王计宽分享,原题“转转push系统的演进之路”,下文有修订和重新排版。1、引言顾名思义,push就是就是借助厂商通道把消息发送给用户的一种方式,一般用于用户的召回和活动触达,和即时通讯IM在业务上稍有区别,但技术逻辑上是相通的,不在此处赘述。本文将从0开始讲讲转转千万级用户量消息推送系统的架构演进和迭代过程,以及遇到的常见问题的解法,希望能带给你启发...  阅读全文

2025-07-24 15:58 作者: Jack Jiang【评论:0】【阅读:50】 

技 术 改 变 世 界

宣传语

网站分类

其他分类

Google站内搜索

 

24小时内最热随笔

统计信息

订阅

Blog客户端API

推荐客户端

博客排行榜[前100人]