SOTA Sync
全部文章
质量与安全2026-04-21

Darkbloom:用闲置 Mac 做私有推理,比中心化方案便宜 50%

Eigen Labs 发布 Darkbloom,一个去中心化 AI 推理网络,将全球超过 1 亿台闲置 Apple Silicon Mac 接入统一的推理市场。核心命题:GPU 厂商→超大规模云→API 提供商→终端用户,这条供应链上每一层都在加价,最终用户承担了硅成本的数倍。Darkbloom 绕开所有中间层,让 Mac 直接服务推理请求,成本比 OpenRouter 同类模型低约 50%。解决的关键挑战是信任问题:运营商(Mac 持有者)无法读取用户数据——通过四层独立验证实现:端到端加密(请求在用户设备上加密)、Apple 安全硬件绑定密钥、OS 级硬化运行时(禁止调试器附加和内存检查)、可审计的全链路证明。API 兼容 OpenAI 接口,只需改 base_url。运营商保留 100% 推理收入,电费是唯一成本(约 $0.01-0.03/小时),预估利润率约 90%。HN 获 500 分,是本周 AI 基础设施领域最受关注的项目之一。

Eigen Labs(EigenLayer 背后的团队)于 2026 年 4 月发布了 Darkbloom,一个运行在闲置 Apple Silicon Mac 上的去中心化 AI 推理网络。

#核心命题:推理供应链过长

当前 AI 推理的成本结构:

  1. NVIDIA 向超大规模云厂商(AWS、Google Cloud、Azure、CoreWeave)出售 GPU
  2. 云厂商加价,向 AI 公司租赁算力
  3. AI 公司再次加价,向终端用户按 token 收费

每一层加价都被下游承担。Darkbloom 的论点是:这是一个市场结构问题,而非技术问题。苹果已经向市场累计出货超过 1 亿台 Apple Silicon 设备,每台都具备运行大型语言模型的能力,每天平均闲置超过 18 小时。这些设备的边际成本接近于零。

#解决信任问题:四层独立验证

把推理请求发到陌生人的家用设备上,核心障碍是:运营商(Mac 持有者)能不能看到你的 prompt 和数据?

Darkbloom 通过四层独立的隔离机制回答这个问题:

1. 端到端加密 :请求在用户设备上加密后才传输,协调节点路由的是密文,无法解读。

2. 硬件绑定密钥 :每个参与节点的解密密钥由 Apple 安全硬件(Secure Enclave 同类机制)内部生成,证明链可追溯到 Apple 根证书。密钥无法被导出或复制。

3. 硬化运行时 :推理进程在 OS 层面被锁定——调试器无法附加,内存无法被外部进程检查。运营商即使想看也没有技术路径。

4. 全链路可审计证明 :每个响应都携带产生它的具体硬件的签名,完整证明链公开发布,任何人可以独立验证。

这四层的设计原则是:每一层单独就足够阻止数据泄露,组合在一起则提供冗余保障。

#成本对比

Darkbloom 当前支持的模型及定价(与 OpenRouter 比较):

模型输入价格输出价格OpenRouter节省
Gemma 4 26B$0.03/M$0.20/M$0.40/M50%
Qwen3.5 27B$0.10/M$0.78/M$1.56/M50%
Qwen3.5 122B$0.13/M$1.04/M$2.08/M50%
MiniMax M2.5 239B$0.06/M$0.50/M$1.00/M50%

图像生成目前暂停维护,语音转文字支持(Cohere Transcribe)定价 $0.001/分钟。

#接入方式:一行代码切换

API 完全兼容 OpenAI 格式,只需修改 base_url

from openai import OpenAI

client = OpenAI(
    base_url="https://api.darkbloom.dev/v1",
    api_key="your-api-key"
)

现有使用 OpenAI SDK 的代码不需要其他任何修改。支持流式输出(SSE)和 function calling。

#运营商端:如何让 Mac 赚钱

硬件持有者通过 CLI 安装推理服务(curl -fsSL https://api.darkbloom.dev/install.sh | bash),自动注册为网络节点。收益分配:运营商保留 100% 推理收入,Darkbloom 不收平台费。唯一的成本是电费,Apple Silicon 的功耗效率使得每小时电费约 $0.01–0.03,Eigen Labs 估计利润率约 90%。

macOS 原生菜单栏应用正在开发中,目前仅提供 CLI 版本(要求 Apple Silicon + macOS 14+)。

#背景:Eigen Labs 的来历

Eigen Labs 是 EigenLayer 的开发团队,EigenLayer 是以太坊生态中的重质押(restaking)协议。Darkbloom 作为 Eigen Labs 的研究预览项目发布,延续了其在去中心化网络设计上的积累。