反向代理服务流式输出设置1.问题场景提问：为什么我部署的服务没有流式响应最近在重构原有的GPT项目时，遇到gpt回答速度很慢的现象。在使用流式输出的接口时，接口响应速度居然还是达到了30s以上。2.现象分析分析现象我发现，虽然前端还是流式打印的结果，但是，好像是接口处理完了，再以流式返回到的前端。3

背景Helios 系统要处理的数据量比较大，尤其是查询所有服务一天的评分数据时要返回每日 1440 分钟的所有应用的评分，总计有几十万个数据点，接口有时延迟会达到数秒。本文记录如何利用 Arthas ，将接口从几百几千 ms，优化到几十 ms。链路：从链路上看，线上获取一整天的数据时大概 300 多