EN|中文

迈入本地 AI 的实用第一步。

MTCode Server 将模型选择、下载、本地推理和安全发布整合到一个桌面工作流中。内置的 MTCode-LLM 与 MTCode-Diffusion 面向希望先运行一个实用本地模型、再逐步了解完整 AI 工具生态的新用户。

下载 MTCode Server 查看快速流程

引导式本地 AI 设置

先选择任务,再选择适合本机的模型

无需从模型格式、推理参数和冗长目录开始,用户可以先选应用类别。MTCode Server 提供一组预先筛选、托管在 Hugging Face 上的开放权重模型,并提供量化和运行参数,让能力、速度与 GPU 显存之间的取舍更容易理解。

按任务划分类别从编程、对话、图像理解、图像生成、编辑或局部重绘开始。
精选模型选项从较小的 Hugging Face 预选模型集合中选择,而不是面对未经筛选的目录。
适配硬件的参数按可用 GPU 选择模型大小、量化、上下文和低显存设置。
启动后即可共享在同一应用中启动本地服务,并通过 DirectLink 发布。

三个组件,一套流程

图形界面统一管理模型服务及访问

MTCode Server

桌面控制程序负责保存凭据、下载所选模型、配置本地服务、启动和停止进程,并将 TCP 入口发布给获得 DirectLink 授权的用户。

MTCode-LLM

使用 llama.cpp 推理引擎的本地语言与多模态模型服务器,支持 MTCode Server 中提供的文本、编程、视觉和音频类模型选项。

MTCode-Diffusion

使用 stable-diffusion.cpp 引擎的本地图像生成与编辑服务器。MTCode Server 将支持的工作流整理为图像生成、生成与编辑以及局部重绘等类别。

面向新用户的快速开始

从一台空白计算机到可共享的 AI 入口。

内置流程把首次设置集中在一个应用中。高级控制仍然可用,但新用户不必一开始就掌握所有细节。

1. 选择应用类型选择编程或通用对话等语言任务,或者图像生成、编辑等图像任务。
2. 选择模型和量化查看精选选项,按照本地 GPU 和质量需求选择合适大小。
3. 下载并在本机启动MTCode Server 从 Hugging Face 获取模型,配置内置服务,并显示状态与日志。
4. 发布给授权用户DirectLink 让服务出现在 MTCode Portal 中,无需公网入站端口或 VPN。

MTCode-LLM:启动服务前选择应用类别、模型、量化和上下文。单击图片可放大查看。

MTCode-Diffusion:选择生成或编辑工作流,以及与其兼容的图像模型。单击图片可放大查看。

适用场景

它的价值是便利,而不是更广的生态

Ollama、LM Studio 以及成熟的图像生成工具拥有更广泛的生态、集成、模型目录和社区工作流。MTCode-LLM 与 MTCode-Diffusion 并不试图取代这些工具;它们的优势是提供一条更小、更有引导性的路径,让用户从选择实用开放权重模型,直接走到在 MTCode Server 图形界面中运行并共享模型。

刚开始使用本地 AI

当应用类别和精选列表比独立评估所有运行时与模型更有帮助时,可使用内置服务器。它们提供一个实用的起始配置,之后仍可逐步调整。

已有常用 AI 服务器

无需更换。MTCode Server 可以发布任意 TCP 服务,包括已有的 Ollama、LM Studio 或其他兼容入口。DirectLink 不要求服务必须使用 MTCode 推理引擎。

模型本身仍是第三方软件和内容。 不同模型的可用状态、硬件要求、能力和许可条款各不相同。下载或共享访问前,请查看 Hugging Face 模型卡和许可证。

以本地运行为核心

让模型靠近数据和 GPU 运行。

推理在所选计算机上执行。DirectLink 为服务器入口提供授权远程访问,MTCode Portal 则为用户提供稳定的本地地址和熟悉的客户端工作流。

两个服务器均可独立运行MTCode-LLM 和 MTCode-Diffusion 都是独立程序。您可以直接从终端启动任一程序供本机使用,无需登录 MTCode 账户;只有在选择通过 DirectLink 发布服务入口时才需要账户。
无需公网监听端口发布服务时无需配置路由器端口转发,也无需将模型服务器直接暴露在公网中。
继续使用偏好的客户端Portal 将远程入口映射到 localhost,因此浏览器界面、API 工具、编程助手和其他兼容客户端都可正常连接。
共享服务,而不是整台计算机用户获得的是命名 AI 入口的访问权,而不是通用网络或操作系统访问权。

从精选模型开始,需要时再深入学习。

MTCode Server 提供一条从本地 GPU 到可运行语言或图像模型的直接路径,也为授权用户提供同样直接的访问方式。