caching

Kimi 开放平台将启动 Context Caching 内测，支持长文本大模型

据月之暗面官方消息，Kimi 开放平台 Context Caching 功能即将启动内测，届时将支持长文本大模型，可实现上下文缓存功能——声称“让每个开发者都用得起长文本大模型”。…

运维资讯 2024年 6月 20日 79.8k