覆盖层技术栈

大模型应用开发基于已有的客户端和服务端基础技术栈，新增大模型相关的处理技术，形成了独立的覆盖层。

理解大模型技术的覆盖性，能够帮助我们迅速理解，真正掌握，当今日新月异、层出不穷的 AI 技术栈。

大模型技术覆盖点主要包括以下方面：

• 会话管理：客户端基于无状态请求和服务端模拟一个业务状态机的方式；在大模型应用引入之后，客户端需要向远程的大模型推理服务发请求，从而调用模型的推理能力，模型调用本身是无状态的，因此客户端需要自行维护调用状态；
• agentic 循环：
• prompt 工程
• rag 原理
• AI UI：为 AI 应用构造基于流式渲染和生成式的 UI。