产品
logo

OmniStudio

待猹分
@鲲鹏Talk
本地大模型一体化桌面工作台:模型托管、统一网关与六大内置应用

OmniStudio 是一款本地优先的大模型一体化桌面工作台:把模型管理、推理服务、统一网关与常用 AI 应用收进同一个桌面应用,数据与推理全程留在本机。

【模型市集】

- 基于 ModelScope 搜索模型,查看仓库文件列表与详情(参数、大小、下载量、许可证、标签)

- 全格式下载:GGUF、safetensors、bin / pt / ckpt / onnx 等,单文件或整仓下载,audio.cpp 的 GGUF 走 HuggingFace 源

- 下载队列并发、暂停/继续/取消、断点续传(HTTP 206)、收藏、多目录存储

- 按 Chat / TTS / ASR / Image / Other 自动识别分类并持久化

【模型服务与统一网关】

- 首次引导内置 Qwen3.5 4B / 9B / 35B-A3B 与 Qwen3.6 27B 一键模型,选中即自动下载部署;也支持手动输入 HuggingFace GGUF

- 三引擎统一运行时:llama.cpp(默认,支持 GPU 卸载、KV 缓存量化、多模态 mmproj)、vLLM、SGLang,可热切换;也能直连任意 OpenAI 兼容端点

- 内置 20 家主流 OpenAI 兼容云端厂商预设(DeepSeek、通义千问、智谱 GLM、Kimi、豆包、文心一言、腾讯混元、MiniMax、讯飞星火、零一万物、阶跃星辰、硅基流动、OpenRouter、OpenAI、Anthropic、Gemini 等),支持连通检测与在线拉取模型列表

- 统一网关:单一本地端点按模型名路由到本地推理服务或云端 API,同时提供 Chat Completions / Responses / Anthropic Messages 三套协议(含双向工具调用),可选 API Key 鉴权,内置交互式 OpenAPI 文档

【内置应用】

- 对话:流式回复与推理过程展示、图片多模态输入、联网检索(Bing / DuckDuckGo / Tavily,标注来源)、文本附件,可挂载知识库提问并给出 [n] 引用溯源

- 语音:TTS(audio.cpp 本地引擎 / Edge-TTS / OpenAI 兼容)+ 声音克隆库 + 多引擎 ASR(whisper.cpp / audio.cpp / API),支持实时聆听对话

- 图片:云端 OpenAI 兼容 API、ComfyUI 或 Apple Silicon 本地 MLX(mflux)生图

- 视频:MiniMax(H3)、Seedance(火山方舟)、ComfyUI 三种后端统一为「提交任务 + 轮询」,支持首帧图生视频与历史库播放下载

- OCR 文档识别:本地 Tesseract、PaddleOCR(PP-OCRv6 常驻 worker)与 VLM(Chandra / GLM-OCR / LightOnOCR),PDF / 图片输出结构化 Markdown(表格、公式、代码块、图注)

- 翻译:引擎可切(当前对话模型 / Google),22 种语言互译,支持自动检测、语言交换与麦克风同传翻译

【本地知识库与共享记忆】

- 知识库(本地 RAG):导入本地文件、笔记与网页,Markdown 感知切片 + 可选向量化 + BM25 与向量的 RRF 混合检索 + 可选重排序,不依赖外部向量库或 FTS 扩展

- 共享记忆:Agent 工具、网关 REST / MCP、omi 命令行三通道读写同一个 SQLite 库,置顶与高热记忆注入系统提示

- Skills 管理:中央技能库统一管理并同步到各编码工具,53 个内置工具适配器,支持 Git 远端备份与快照

【智能体与协议】

- Pi Agent 三模式:Agent / Plan(只读工具,先出方案)/ Goal

- MCP 双向:客户端支持 stdio / Streamable HTTP / SSE 管理外部 MCP 服务器;服务端 POST /mcp 把知识库与记忆开放给任意 MCP 客户端,浏览器 GET /mcp 即调试工作台

【运维与集成】

- 实时仪表盘(吞吐 tok/s、请求数、活跃模型、内存 CPU、磁盘占用,2 秒轮询)、基准测试(上下文 1K–200K,TTFT / TPOT / TPS)、日志查看

- 编码工具集成:Claude Code、Codex、OpenCode、OpenClaw、Hermes、Pi、Copilot CLI 一键生成启动命令并接入共享记忆

- omni 命令行:启动应用与推理服务、选模型、配置云端、拉起编码工具、读写共享记忆,与桌面应用共享同一数据库

- 中英界面、浅色/深色/跟随系统主题、稳定与测试更新通道

【技术栈】

桌面 Electrobun + Bun;前端 React 19、Tailwind、shadcn/ui、Zustand、TanStack Query;AI 采用 Vercel AI SDK;推理引擎 llama.cpp / vLLM / SGLang;数据库 Drizzle ORM + Bun SQLite。

【关于】

MIT 许可,作者:鲲鹏Talk。当前支持 macOS(Apple Silicon),Linux / Windows 支持规划中。

加载中...
gallery
gallery
gallery
gallery
gallery
gallery
gallery
gallery
gallery
gallery
致谢产品
product-logo