V神分享:我如何打造完全本地、隐蔽、可自主可控的AI工作环境

CryptoCity

Vitalik Buterin 提出本地运行 AI 架构,强调隐私、安全与自我主权,并警示 AI Agent 潜在风险。

以太坊创办人 Vitalik Buterin 4 月 2 日在个人网站发表长文,分享他以隐私、安全与自我主权为核心所打造的 AI 工作环境设置——所有 LLM 推理本地执行、所有文件本地存放、全面沙箱化,刻意避开云端模型与外部 API。

文章一开头先警告:“请不要直接复制这篇文章描述的工具与技术,并假设它们是安全的。这只是一个起点,而不是完成品的描述。”

为何现在写这篇?AI agent 的安全问题被严重低估

Vitalik 指出,今年初 AI 完成了从“聊天机器人”到“agent”的重要转型——你不再只是问问题,而是交付任务,让 AI 长时间思考、调用数百个工具来执行。他以 OpenClaw(目前 GitHub 史上成长最快的 repo)为例,同时点名研究人员记录的多项安全问题:

  • AI agent 可在无需人工确认的情况下修改关键设置,包括添加新的通信渠道与修改系统提示
  • 解析任何恶意外部输入(如恶意网页)都可能导致 agent 被完全接管;在 HiddenLayer 的一次示范中,研究员让 AI 摘要一批网页,其中藏了一个会命令 agent 下载并执行 shell 脚本的恶意页面
  • 部分第三方技能包(skills)会执行静默的数据外泄,通过 curl 指令将数据送往技能作者控制的外部服务器
  • 在他们分析的技能包中,约 15% 包含恶意指令

Vitalik 强调,他对隐私的出发点不同于传统资安研究者:“我来自一个对把个人生活完整喂给云端 AI 感到深度恐惧的立场——就在端到端加密与本地优先软件终于主流化、我们终于往前迈一步的时候,我们却可能退后十步。”

五大安全目标

他设置了明确的安全目标框架:

  • LLM 隐私:在涉及个人隐私数据的情境中,尽量减少使用远端模型
  • 其他隐私:最小化非 LLM 的数据泄露(如搜索查询、其他线上 API)
  • LLM 越狱:防止外部内容“劫入”我的 LLM,让它违背我的利益(例如发送我的代币或私人数据)
  • LLM 意外:防止 LLM 误将私人数据发送至错误渠道或公开到网络
  • LLM 后门:防止被刻意训练进模型的隐藏机制。他特别提醒:开放模型是开放权重(open-weights),几乎没有一个是真正开放开源(open-source)

硬件选择:5090 笔记本胜出,DGX Spark 令人失望

Vitalik 测试了三种本地推理硬件配置,主力使用 Qwen3.5:35B 模型,搭配 llama-server 与 llama-swap:

硬件 Qwen3.5 35B(tokens/sec) Qwen3.5 122B(tokens/sec)
NVIDIA 5090 笔记本(24GB VRAM) 90 无法执行
AMD Ryzen AI Max Pro(128GB 统一内存,Vulkan) 51 18
DGX Spark(128GB) 60 22

他的结论是:低于 50 tok/sec 太慢,90 tok/sec 是理想。NVIDIA 5090 笔记本体验最流畅;AMD 目前仍有较多边缘问题,但未来有望改善。高端 MacBook 也是有效选项,只是他个人没有亲自试用。

对 DGX Spark 他直言不客气:“被描述为‘桌面 AI 超级计算机’,但实际上 tokens/sec 比好的笔记本 GPU 还低,而且还要额外搞定网络连接等细节——这很逊。”他的建议是:若负担不起高端笔记本,可以和朋友共同购买一台足够强力的机器,放在有固定 IP 的地点,大家远端连接使用。

为何本地 AI 的隐私问题比你想象的更迫切

Vitalik 这篇文章,与同日推出的 Claude Code 安全问题讨论形成有趣的呼应——AI agent 进入日常开发工作流的同时,安全性问题也正在从理论风险变成现实威胁。

他的核心讯息很清楚:在 AI 工具愈来愈强大、愈来愈能存取你的个人数据与系统权限的当下,“本地优先、沙箱化、最小信任”不是偏执,而是理性的起点。

  • 本文经授权转载自:《链新闻》
  • 原文标题:《Vitalik:我如何打造完全本地、私密、自主可控的 AI 工作环境》
  • 原文作者:Elponcrab
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

ChatGPT 广告进军澳纽加:Free 与 Go 用户先行,付费方案维持无广告

OpenAI于2023年4月17日扩展ChatGPT广告至澳洲、 新西兰及加拿大,针对Free与Go用户,付费用户无广告。此举标志着AI商业化的第二条路径,并考量了商业与监管风险,广告出现可促进付费转化。

鏈新聞abmedia1小时前

现代汽车集团围绕人工智能与机器人进行重组,目标到2030年部署30,000台Atlas机器人

现代汽车集团正在重组,重点转向人工智能和机器人,并削减传统业务。该集团计划到2030年在机器人领域投入343亿美元,并旨在推出机器人即服务模式,与Google DeepMind和NVIDIA合作。

GateNews4小时前

NEA 探索在核监管中使用人工智能

NEA关于新技术的工作组于3月25日至26日召开了研讨会,重点探讨如何在核主管机构内部运营以及监管监督中应用人工智能。 摘要 NEA研讨会探讨了人工智能在核监管中的真实世界应用,其中包括

Cryptonews 7小时前

中国将于4月19日在北京半程马拉松测试300+台类人机器人

北京第二届机器人半程马拉松将有来自70支队伍的300多台类人机器人参赛,赛道全长21公里。重点展示自主移动方面的进展,其中40%的机器人无需控制即可运行。尽管生产面临挑战,中国仍在类人机器人市场占据主导地位。

GateNews10小时前

美国寻求增加从纳米比亚进口铀以驱动AI驱动的核电厂

美国正在考虑从纳米比亚增加铀进口,以支持为AI数据中心供能的核能,因为中国主导了纳米比亚的铀行业。不断上涨的铀价格正在重新点燃采矿兴趣,尽管该干旱地区存在供水挑战。

GateNews10小时前

OpenAI 高管比尔·皮布尔斯和凯文·韦尔在领导层重组中离任

OpenAI 高管比尔·皮布尔斯(Bill Peebles)和凯文·韦尔(Kevin Weil)宣布离职,这是公司在将业务去中心化过程中一系列领导层变动的一部分。两人的离开紧随数位其他备受关注的高管离职,以及公司架构的调整。

GateNews11小时前
评论
0/400
暂无评论