LangSmith 登陆 Google Cloud Marketplace

Perplexity 的本地版 Computer Agent——Portable Computer 正式支持 Windows，面向兼容的 Nvidia GeForce RTX 与 RTX PRO GPU。它捆绑了模型运行时、编排、工具调用和 SPACE 沙箱，支持本地完成敏感任务并可回退到云端模型，但 24GB 显存的硬性门槛限制了它的适用范围。

文章介绍了 LLM 响应缓存的三层策略：SHA-256 精确匹配、向量数据库语义匹配、以及两者结合的混合模式。关键难点在于缓存失效判断——需要根据数据类型决定 TTL，并在内容变更时主动失效。作者还给出了成本测算示例和不应缓存的情况。