

LLM - MCP传输协议解读:从SSE的单向奔赴到Streamable HTTP的双向融合
摘要: Model Context Protocol (MCP) 通过优化传输协议提升大模型(LLM)与客户端的交互效率。早期采用SSE(Server-Sent Events)实现单向流式推送,结合HTTP POST实现逻辑双向通信,但面临会话恢复难、长连接资源压力大等痛点。新一代Streamable HTTP通过统一端点、按需流式传输(支持SSE或普通HTTP响应)、引入会话ID(Mcp-Session-Id)实现无状态设计,显著提升兼容性和扩展性,尤其适配云原生架构。其核心改进包括简化协议、增强断线恢复


Portkey-AI gateway 的一次“假压缩头”翻车的完整排障记:由 httpx 解压异常引发的根因分析
摘要:本文记录了作者在本地搭建Portkey AI Gateway时遇到的gzip解码错误问题。测试发现网关能接收请求但Python程序报"incorrect header check"错误,经排查发现网关返回了"Content-Encoding: gzip"头部但实际响应是明文JSON。作者通过使用httpx.stream().iter_raw()方法绕过自动解压直接获取原始字节,成功定位到问题根源在于网关返回了不匹配的压缩头部。文章详细记录了问题复现过程,包括使用