首页 >> 综合 > 快讯 >

OVHcloud 推出首个 AI 模型家族 Olala,首款开源模型 Olala mini 7A1B 支持 8GB 显存运行

2026-11-18 08:19:56 来源:网易 编辑:包露策 

OVHcloud 正式对外发布自家第一个 AI 大模型系列 Olala,首发成员 Olala mini 7A1B 采用混合注意力 MoE 架构,能够在仅 8GB 显存的显卡上跑起来,使用 Apache 2.0 协议开源,开发者可以直接在 Hugging Face 获取权重文件。这款模型采用稀疏激活设计,总参数 70 亿,但每次推理只激活 10 亿参数,搭配 Differential-TPA 加 Mamba-3 混合注意力结构,大幅压低显存占用,所以低配显卡也能流畅推理;它全程在欧洲本地三台超算集群训练,训练硬件是 GH200、A100、H100,项目投入 700 万欧元。部署的时候门槛很低,除了 8GB 显存 GPU,普通 CPU 也可以跑,RTX A4500 环境下可以跑到 160token/s,CPU 环境下大约 50token/s,当前版本上下文窗口 32K。整体来看 Olala mini 7A1B 主打轻量化本地部署,面向个人开发者、小型企业私有化场景,后续还有版本迭代计划,未来 Olala 2.0 参数规模会突破 100B。

Olala mini 7A1B 核心参数清单

项目参数详情
模型全称Olala mini 7A1B
总参数 / 激活参数7B 总参,1B 激活参,每层 256 个专家
架构Differential-TPA+Mamba-3 混合注意力,BF16
显存门槛最低 8GB 显存 GPU,支持 CPU 推理
当前上下文32K token
开源协议Apache 2.0
发布平台Hugging Face
训练集群Jupiter、MeluXina、Jean Zay 三台欧洲超算

Olala 模型路线规划

  1. 当前版本:Olala mini 7A1B,32K 上下文,轻量化本地推理
  2. 2026 年底 1.1 版本:升级到 128K 上下文,优化数学推理能力
  3. 远期规划:Olala 2.0,参数规模大于 100B

适用与不适合场景

✅ 适合:本地私有化部署、小服务器 / 家用显卡跑大模型、嵌入式 AI 应用、企业轻量智能体、欧洲合规 AI 项目

❌ 不适合:超高精度复杂数学证明、超大长文档批量深度分析、千亿级高并发公有云主流量服务

【相关 FAQ】

问题 1:Olala mini 7A1B 支持 8GB 显存运行,是不是 8G 显卡就能直接跑满 32K 上下文?

回答 1:Olala mini 7A1B 最低支持 8GB 显存运行,但上下文拉满 32K 的时候显存占用会上涨,8G 显卡短文本对话更稳,长文本建议预留更多显存。

问题 2:Olala mini 7A1B 是开源模型,开源协议是什么,商用有限制吗?

回答 2:Olala mini 7A1B 采用 Apache 2.0 协议开源,权重、技术报告、合规文档一并放出,商用自由度高,同时附带欧盟 AI Act 合规资料。

问题 3:Olala mini 7A1B 的 MoE 架构,和普通稠密 7B 模型区别在哪?

回答 3:Olala mini 7A1B 是稀疏 MoE 架构,总参 7B 但每次只激活 1B 参数,显存开销更低,才能做到 8GB 显存运行,稠密 7B 模型一般需要更大显存。

问题 4:OVHcloud Olala 模型家族除了 Olala mini 7A1B 还有别的模型吗?

回答 4:Olala mini 7A1B 是 Olala 模型家族首款,后续会迭代 1.1 版本,还规划了超过 100B 参数的 Olala 2.0 大模型。

【参考资料】

[2026-11-17](OVH announces Olala mini 7A1B)OVHcloud 官网

[2026-11-17](欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B)IT 之家

[2026-11-17](OVHcloud Unveils Olala Mini, an Open-Source European LLM That Runs on 8 GB of GPU Memory)i10X

[2026-11-17](OVHcloud launches first open-source AI model family)IT Brief Ireland

【免责声明】

本文信息整理自 OVHcloud 官方公告和科技媒体报道,Olala mini 7A1B 在 8GB 显存显卡上的实际推理速度、上下文上限会受量化方式、推理框架、系统环境影响;模型性能、迭代计划以 OVHcloud 和 Hugging Face 页面最新信息为准,不构成采购、部署商用项目的决策依据。

 
最新文章
站长推荐