模型对话台
连接本地或云端大模型的多轮对话，SSE 流式输出。
使用说明
这个工具解决什么问题
用 Ollama、LM Studio 跑了本地模型,或者手里有各家云端的 API Key,但每次对话都要开终端、敲 curl,或者忍受官方客户端的重量级安装。这个对话台把连接这件事交给你上一 步在「AI 配置」里保存好的配置——打开页面就能直接跟本地 7B 模型或者云端 API 聊,中间没有任何一方的服务器经手。
核心能力
多轮流式对话：完整上下文发给模型,回答按 SSE 逐字渲染,边生成边看;生成中可随时点「停止」中止,已生成的部分保留。
OpenAI 兼容通吃：Ollama、LM Studio、Jan、vLLM、llama.cpp server 与各家云端 API 全都暴露同一套接口,填一个地址就能用,本地与云端无缝切换。
常用参数内置：system prompt 设定角色,温度滑杆控制发散程度,max_tokens 限制生成长度;端点不支持流式时自动整段回退,不挑服务端实现。
输出即纯文本：模型回答按纯文本渲染,不解析 HTML——模型输出视为不可信输入,杜绝提示词注入带来的页面安全问题。
使用建议
先跑「AI 配置」把端点调通并保存,回到这里连接会自动带上;换模型或换端点随时点「更换连接」。写作场景把 system prompt 设成固定角色(如「你是简体中文编辑」)能省掉每次重复交代的 token;回答发散就调低温度。对话历史只在当前页面内存里,刷新即清空,重要内容记得及时复制。
常见问题
对话内容会经过你的服务器吗?
不会。页面是纯静态文件,发送请求时由你的浏览器直连你配置的模型端点(本地 Ollama 或云端 API),站点服务器不参与、看不到、也不存储任何对话与密钥。
提示「还没有可用的模型连接」怎么办?
先用「AI 配置」探测并保存连接。Ollama 用户注意需要设置 OLLAMA_ORIGINS 环境变量允许跨域,LM Studio 在服务器页勾选 Enable CORS,具体步骤诊断器的失败引导里都有。
模型输出到一半停了或出现乱码?
生成中可点「停止」手动中止;网络中断时已生成的部分会保留。若端点不支持流式,工具会自动回退为整段返回。模型输出按纯文本渲染,不解析 HTML。
对话历史存在哪里?
只保存在当前页面的内存里,刷新页面即清空,不会写入存储也不会上传。需要留存可在清空前手动复制全文。