RunAnywhereAI 上线 Wally 模型目录，同步新增 7 款开源大模型

RunAnywhereAI 正式对外发布 Wally 模型目录，同时一次性上架 7 款全新开源大模型，开发者可以统一入口完成模型下载、本地部署与云端调用，大幅降低多模型切换与运维成本。这次推出 Wally 模型目录，核心是为开发者打造一站式模型管理工具，解决多模型分散管理、本地与云端调用命令不统一的痛点；团队提前完成多款主流开源模型的适配优化，打通本地硬件加速与云端推理两条链路，只需要一套指令就能切换运行环境；后续开发者只需要在目录内选定模型，执行拉取、加载、启动命令即可完成部署，最终实现多开源模型高效管理、一键本地与云端切换运行。

一、Wally 模型目录整体架构说明

1. 核心定位

Wally 是面向本地 + 云端双环境的统一模型管理 CLI 工具，配套专属模型目录，统一托管所有上架开源模型，兼容 OpenAI 格式 API 调用，一套密钥即可调用目录内全部模型。

2. 目录基础能力清单

1）模型资源管理：支持一键拉取、本地缓存、版本切换、卸载清理，自动记录本地存储路径与占用空间。

2）双环境调度：优先调用本地已下载模型，本地无资源时自动切换至 RunAnywhere 云端推理，全程不需要修改代码与调用指令。

3）硬件加速适配：内置 MetalRT、QHexRT 两套推理引擎，自动识别电脑 NPU、GPU 硬件，自动开启加速推理，提升本地运行速度。

4）工具链打通：可直接对接 OpenCode、Hermes Agent 等开发工具，模型一键接入智能开发代理，直接用于代码生成、自动化任务开发。

3. 目录整体规模

本次更新完成后，Wally 模型目录内一共包含 10 款大模型，本次新增数量为 7 款，其余 3 款为前期已上架的稳定模型，全部为开源权重版本，支持私有化部署。

二、本次上线 7 款新开源模型明细

表格

三、Wally 模型目录部署与模型调用完整步骤

1. 安装 Wally 工具：在终端执行官方安装脚本，完成 CLI 程序部署，配置登录账号与统一 API 密钥。
2. 打开模型目录：输入 wally models list 命令，查看目录内全部模型，确认 7 款新增开源模型已经展示在列表中。
3. 拉取模型文件：执行 wally models pull + 模型名称，自动下载模型权重到本地默认存储目录，全程显示下载进度。
4. 本地启动运行：执行 wally run + 模型名称，直接在本地硬件上启动推理，自动开启 NPU/GPU 硬件加速。
5. 切换云端调用：在指令中增加 --cloud 参数，即可切换到云端推理服务，自动计量调用额度，无需额外配置接口地址。
6. 对接开发工具：通过 wally opencode 命令，把目录内模型直接绑定代码开发工具，一键启动 AI 编程任务。

四、Wally 模型目录 + 7 款开源模型带来的核心价值

1. 降低多模型管理成本：不用单独维护每一款模型的下载地址、权重版本，全部资源统一收纳在 Wally 模型目录内，一键完成版本管理。
2. 打通本地与云端环境：调用指令完全一致，开发阶段本地离线测试，上线阶段切换云端按量推理，代码不需要二次修改。
3. 硬件利用率更高：内置两套本地加速引擎，自动适配 Windows、macOS 设备自带 NPU，低配电脑也能流畅运行多款开源模型。
4. 开源模型开箱即用：7 款新上线模型都已经完成格式转换与推理适配，开发者不需要做模型量化、格式转换等额外工作，拉取后直接启动运行。
5. 开发链路一体化：模型目录直接联动智能代码代理工具，把开源大模型快速接入自动化开发流程，提升 AI 项目开发效率。

五、后续迭代规划

1. 持续扩充模型库：后续会持续把国内主流开源大模型接入 Wally 模型目录，不断丰富可选模型数量。
2. 优化量化版本：陆续推出 INT4、INT8 量化版本，进一步降低本地设备内存占用，扩大硬件适配范围。
3. 完善模型分组功能：支持把常用模型创建分组，实现批量切换，进一步提升多模型项目的开发效率。

【相关 FAQ】

问题 1：RunAnywhereAI 推出的 Wally 模型目录，本次一共新增多少款开源模型，目录总共有多少款模型？

回答 1：RunAnywhereAI 推出的 Wally 模型目录，本次一次性新增 7 款全新开源模型；本次更新完成之后，Wally 模型目录内整体一共有 10 款大模型，全部为开源版本，支持本地私有化部署与云端推理调用。

问题 2：Wally 模型目录支持本地与云端双环境运行，切换调用环境需要修改代码指令吗？

回答 2：不需要修改基础调用指令。Wally 模型目录自带统一调度能力，默认优先调用本地已下载模型；只需要在原有命令后增加 --cloud 参数，就能一键切换到 RunAnywhere 云端推理服务，全程不用改动接口配置与业务代码。

问题 3：本次上线的 7 款开源模型，能不能直接对接 OpenCode 这类 AI 开发工具？

回答 3：完全可以。Wally 模型目录已经完成工具链适配，目录内包含本次新增 7 款开源模型在内的全部模型，都可以通过一行命令直接绑定 OpenCode、Hermes Agent 等开发代理工具，一键启动 AI 代码生成与自动化开发任务，无需额外做模型对接配置。

问题 4：使用 Wally 模型目录拉取本次 7 款新开源模型，本地设备能不能开启硬件加速？

回答 4：可以开启硬件加速。Wally 内置 MetalRT 与 QHexRT 两套推理引擎，会自动识别电脑自带的 GPU、NPU 硬件，本地运行这 7 款开源模型时自动开启硬件加速，大幅提升推理速度，低配设备也能稳定运行。

【数据来源】

[2026-10-23]（RunAnywhereAI 推出 Wally 模型目录，7 个新开源模型上线）InfoQ

[2026-10-23]（Wally 统一模型 CLI：本地云端一套命令调用开源模型）RunAnywhereAI 官方文档

[2026-10-23]（Wally 模型目录上线 7 款开源大模型，支持 NPU 本地加速）AI 前线资讯

[2026-10-22]（RunAnywhere Wally 工具使用指南，模型拉取与双环境调度）RunAnywhere 开发者社区

免责声明

本文内容基于 RunAnywhereAI 官方发布信息、公开技术文档与行业资讯整理而成；Wally 模型目录功能、7 款开源模型的本地部署效果、云端推理计费规则，均以 RunAnywhereAI 官网最新正式文档为准；不同硬件设备的本地推理性能存在差异，模型运行体验受设备配置、系统版本影响；本文仅做技术信息解读，不构成项目选型与商业化部署决策依据。