全新轻量级高性能跨平台 AI 聊天桌面应用与本地 API 网关一体化解决方案

这是一款集成了先进 AI 对话能力与强大本地 API 网关功能的跨平台桌面应用程序,专为开发者、技术团队和 AI 高频使用者设计。支持 Windows、macOS 与 Linux 系统,具备出色的性能表现与高度可扩展性,适用于多模型管理、智能 Agent 协作、知识库检索及企业级 API 服务中台构建。

核心功能亮点

通过模块化架构整合了主流大模型接入、AI 自主执行代理(Agent)、内容智能渲染、本地知识库增强(RAG)、工具扩展协议(MCP)以及 OpenAI 兼容 API 网关等核心能力,打造一站式 AI 工作流中枢。

对话与模型管理

  • 多供应商兼容支持 —— 无缝对接 OpenAI、Anthropic Claude、Google Gemini 等所有遵循 OpenAI 标准接口的大语言模型服务,实现统一调用与切换。
  • 远程模型列表同步 —— 自动拉取各平台可用模型清单,支持自定义参数配置,如温度(Temperature)、最大 Token 数、Top-P 采样等,满足不同场景生成需求。
  • 多 API Key 轮询机制 —— 每个服务商可绑定多个密钥,系统自动轮换使用,有效规避单密钥限流问题,提升稳定性与并发能力。
  • 实时流式响应输出 —— 支持逐 Token 流式渲染,AI 思考过程可视化呈现,thinking 块支持折叠/展开,交互更直观流畅。
  • 消息版本控制 —— 每条回复支持保存多个生成版本,便于对比不同参数或模型下的输出效果,优化决策质量。
  • 对话分支演化 —— 可从任意历史消息节点派生新对话路径,支持多分支并行探索与结果对比分析。
  • 高级对话组织功能 —— 提供置顶、归档、按时间分组、批量操作等功能,轻松管理大量会话记录。
  • 智能对话压缩技术 —— 自动识别并压缩冗长上下文,保留关键信息,延长有效对话长度,节省 token 成本。
  • 多模型并行问答 —— 同一问题可同时发送至多个模型,返回结果支持横向对比分析,辅助选择最优答案。

AI Agent 智能代理系统

  • Agent 模式运行 —— 切换至 AI Agent 模式后,AI 可自主规划并执行复杂任务,包括读写文件、运行命令、调试代码、自动化脚本执行等。
  • 三级权限控制系统 —— 提供默认审批模式、接受编辑自动批准、完全访问无提示三种权限等级,确保操作安全可控。
  • 工作目录沙箱隔离 —— 所有 Agent 操作严格限制在指定的工作目录内,防止越权访问系统资源,保障数据安全。
  • 工具调用审批面板 —— 实时展示 AI 发起的工具调用请求,支持逐条审核、一键永久允许或拒绝特定工具使用。
  • 会话级成本追踪 —— 实时统计每次会话的 Token 消耗量与预估费用,帮助用户精准控制使用成本。

富媒体内容渲染引擎

  • 完整 Markdown 渲染支持 —— 支持代码高亮、LaTeX 数学公式、表格、任务列表等多种格式,提升内容表达力。
  • 内嵌 Monaco 代码编辑器 —— 代码块集成 VS Code 同源编辑器,支持语法高亮、复制、diff 差异预览等专业功能。
  • 图表可视化渲染 —— 内置 Mermaid 流程图与 D2 架构图解析引擎,直接在对话中生成结构化图形。
  • Artifact 多格式预览面板 —— 支持独立展示代码片段、HTML 草稿、Markdown 笔记、分析报告等内容,提升协作效率。
  • 实时语音对话(即将上线) —— 基于 WebRTC 技术实现低延迟语音交互,兼容 OpenAI Realtime API,未来将支持自然语音输入输出。

搜索增强与知识管理

  • 联网搜索集成 —— 内置 Tavily、智谱 WebSearch、Bocha 等搜索引擎,返回结果附带引用来源标注,提升信息可信度。
  • 本地知识库 RAG 支持 —— 支持创建多个知识库,上传文档后自动分段解析并建立语义索引,对话中自动检索相关内容注入上下文。
  • 多命名空间记忆系统 —— 支持手动添加长期记忆条目,AI 将逐步实现自动提取关键信息形成记忆(功能开发中)。
  • 灵活上下文挂载机制 —— 可自由挂载文件附件、搜索结果、知识库片段、记忆条目、工具执行输出等内容到当前会话上下文中。

工具扩展与 MCP 协议支持

  • 全面实现 MCP 协议 —— 完整支持 Model Context Protocol(MCP),可通过 stdio 或 HTTP 两种方式连接外部工具,拓展 AI 能力边界。
  • 开箱即用内置工具 —— 提供 @aqbot/fetch 等常用 MCP 工具,无需额外配置即可使用。
  • 可视化工具执行面板 —— 清晰展示所有工具调用请求与返回结果,便于调试与监控。

本地 API 网关服务

  • 内置 OpenAI 兼容 API 服务器 —— 提供本地运行的 OpenAI、Claude、Gemini 等原生接口服务,可作为各类 AI 客户端(如 CLI 工具、插件)的后端代理。
  • API 密钥全生命周期管理 —— 支持生成、启用、停用、撤销访问密钥,并可添加描述备注,便于团队协作管理。
  • 精细化用量统计分析 —— 按密钥、供应商、日期维度统计请求次数与 Token 消耗,提供可视化报表。
  • SSL/TLS 加密支持 —— 内置自签名证书生成能力,也可挂载用户自有 SSL 证书,保障通信安全。
  • 完整请求日志记录 —— 记录所有经过网关的 API 请求与响应内容,便于审计、调试与性能优化。
  • 预设配置模板 —— 提供 Claude、Codex、OpenCode、Gemini 等常见开发工具的标准接入配置模板,快速完成集成。

产品截图展示

AI聊天界面示意图

多模型对比功能截图

Agent 模式操作界面

知识库与 RAG 功能界面

API 网关管理后台

声明:本站所有源码资源均整理自网络,仅供个人学习、技术交流与研究使用,严禁用于商业用途。如涉及版权问题,请及时联系我们,我们将在核实后第一时间处理或删除。