Vitalik 分享本地私有 LLM 方案，強調隱私與安全優先

ChainCatcher 消息，Vitalik Buterin 發文分享其截至 2026 年 4 月的本地化、私有化 LLM 部署方案，核心目標是將隱私、安全與自主可控作為前提，盡量減少遠程模型及外部服務接觸個人數據的機會，并通過本地推理、文件本地存儲及沙箱隔離等方式降低數據泄露、模型越獄及惡意內容利用風險。 在硬件方面，其測試了搭載 NVIDIA 5090 GPU 的筆記本、AMD Ryzen AI Max Pro 128 GB 統一內存設備及 DGX Spark 等方案，并使用 Qwen3.5 35B 與 122B 模型進行本地推理。 其中，5090 筆記本在 35B 模型下可達約 90 tokens/s，AMD 方案約 51 tokens/s，DGX Spark 約 60 tokens/s。Vitalik 表示，其更傾向于基于高性能筆記本構建本地 AI 環境，同時使用 llama-server、llama-swap 及 NixOS 等工具搭建整體工作流。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]