CORS Chat

通用 AI8/15 22:49Simon Willison查看原文 ↗

摘要

Simon Willison 用 GPT-5.6-Sol xhigh 构建了 CORS Chat 工具，用于测试 Qwen 3.8 27B 在 LM Studio 和 NVIDIA DGX Spark 上的聊天端点，该工具兼容 OpenAI-Responses。

核心要点

CORS Chat 是 Simon Willison 于今日构建的 Web UI 工具。
它用于测试 Qwen 3.8 27B 模型在 LM Studio 中的运行，支持 M5 MacBook Pro 和 NVIDIA DGX Spark 两种硬件。
工具实现了与 OpenAI-Responses 兼容的聊天端点，并可通过浏览器访问。
已测试通过 LM Studio 的 --cors 选项以及 OpenRouter 服务。
对话历史存储在浏览器本地，并支持导出为 JSON 格式。

原文佐证

It provides a web UI for exercising an OpenAI-Responses-compatible chat endpoint.
I've tried it against LM Studio with the --cors option and OpenRouter, and both work fine.
One fun detail is that it notices SVG images that are being generated and progressively renders them in the chat while the tokens are still streaming in.

AI 洞察

这个工具展示了 AI 开发者将本地开源模型与云端 API 混合使用的趋势，浏览器成为统一的交互层。流式渲染 SVG 的能力则预示着多模态内容生成的实时性将成为聊天应用的标配。随着 Qwen 等模型在个人硬件上流畅运行，本地 AI 工具链会越来越成熟。