英伟达推进 CUDA 支持 RISC-V 服务器芯片
英伟达在 Hot Chips 2026 公布将 CUDA 支持扩展到 RISC-V 服务器 CPU,并提出严格的平台要求;RISC-V 得到的是生态兼容,而非摆脱英伟达的钥匙。
追踪支撑智能体时代的算力、芯片、数据中心与开发基础设施。
英伟达在 Hot Chips 2026 公布将 CUDA 支持扩展到 RISC-V 服务器 CPU,并提出严格的平台要求;RISC-V 得到的是生态兼容,而非摆脱英伟达的钥匙。
Boyd Kane 分析了一种新的 AI 安全攻击面:恶意模型可借推理引擎(vLLM、SGLang)的解析漏洞在 GPU 宿主机执行任意代码,安全边界需延伸至推理基础设施本身。
MCP 官方发布新路线图,把智能体身份授权、HTTP 原生传输统一、任务类消息原语列为优先方向,协议正从「人来审批」走向「智能体即一等身份」。
Rust 生态遭遇供应链攻击:热门 crate arrayref 被植入恶意版本,仅编译依赖它的项目就会在构建期下载并执行远程二进制。
Stripe 敲定以逾 70 亿美元收购 AI 模型网关 OpenRouter,在 OpenAI 转投 Adyen 之际把最大一块 AI 推理支付量收进自家账本,支付轨道与推理路由层正式合流。
Cerebras 为 OpenAI API 提供 Ultrafast 推理档位,GPT-5.6 Sol 输出速度达每秒 750 token 且无质量妥协,实测完赛 Humanity Last Exam 比 Anthropic 旗舰快约 7 倍。
AMD 收购了将模型权重直接蚀刻进硅片的 AI 芯片公司 Taalas,早期测试芯片推理速度达每秒 1.7 万 token,为智能体推理开辟了一条新路线。
Cloudflare 将内部运行数月、数千员工日常使用的智能体工作平台 Cloudflare OS 开源,核心是把安全治理内建到智能体与应用的每一次访问中。
开源开发者公开单张 AMD MI300X 满血运行 DeepSeek V4 Flash 的生产方案,304B 参数不量化不卸载,解码 168 tok/s。HBM 容量为 H100 两倍、价格约一半,AMD 正成为推理成本叙事里的现实选项。
Cloudflare 公开了在 Workers AI 上规模化运行 Kimi K 系列与 GLM 的三项工程优化:FP8 量化 KV 缓存、INT4 权重压缩与缓存完整性校验,在不损失精度的前提下把单 token 成本降低约 30%。
安全公司扫描了 HuggingFace 全部公开数据集,在 6,003 个数据集中发现 22 万个仍有效的凭据,包括可改写 CI 工作流的 GitHub token 与知名 MCP 仓库创始人的密钥。
Earendil 发文指出,推理 API 正通过加密推理、隐藏搜索与服务器端状态,把用户的会话从可移植的文本记录变成供应商锁定的黑盒,并提出检查、导出、重放、审计、删除五项可移植性测试。
Steelman Labs 研究发现,基于截图—工具调用循环的计算机操控智能体在 OSWorld-V2 仅 20.6% 完成率,多数任务中模型绕过界面直调 API,揭示当前架构的根本局限。
Dario Amodei 发文澄清 Anthropic 对开源权重模型的立场,明确反对全面封禁,同时提出芯片出口管制、打击蒸馏行为和强制安全测试三项具体措施,在开源生态与国家安全之间寻求平衡。
Cloudflare 发布新版 AI 流量管理系统,将自动化流量按用途分为搜索、代理和训练三类,允许所有客户独立管控。新系统还引入「传递信任」机制和 BotBase 机器人目录,重新定义网站所有者对 AI 爬虫的控制权。
YC 支持的 Tracer 推出 Echo,一个在多个开源模型之间动态分配计算量的模型编排系统,在评估中达到 Claude Fable 水平的同时将推理成本降至约三分之一。
Cactus 团队对 Gemma 4 进行后训练改造,让模型每次输出都附带一个置信度分数,仅需路由 15–35% 的查询到云端即可匹配 Gemini 3.1 Flash-Lite 性能。
一款名为 GigaToken 的开源分词器利用 SIMD 和缓存层级优化,在 144 核服务器上实现最高 24 GB/s 的分词吞吐量,较 HuggingFace Tokenizers 提升约 1000 倍。
Simon Willison 发现 Anthropic 的 AI 编程助手 Claude Code 已内置 Rust 重写的 Bun v1.4.0 运行时,二进制文件中包含 563 个 .rs 源文件,标志着 AI 智能体工具基础设施的系统级优化。
纽约州长霍楚签署行政令,暂停大型数据中心建设一年。这是美国首个州级数据中心禁令,直接冲击 AI 行业的基础设施扩张节奏。
开源项目 Mesh LLM 通过 iroh P2P 网络将用户分散的 GPU 整合为统一推理平台,支持模型拆分跨节点运行,兼容 OpenAI API 和 MCP 协议。
Apple 硅谷高级产品经理 Doug Brooks 在采访中透露,Mac mini 和 Mac Studio 是运行 AI 智能体的首选设备——整芯片架构、隐私优先和 24/7 运行能力正推动这股需求。
开源项目 Colibrì 通过磁盘流式传输专家层,在仅 25GB 内存的笔记本上运行 GLM-5.2(744B MoE),推理引擎仅 2400 行 C 代码——本地 AI 部署的成本门槛再次被拉低。
Apple 在 Safari Technology Preview 247 中内置了 MCP 服务器,允许 AI 智能体直接连接浏览器窗口进行 DOM 检查、网络请求分析和性能评测。这是主流浏览器首次原生支持 MCP 协议,智能体驱动的 Web 开发工作流迈出关键一步。
Mixedbread 提出非对称量化方案,将查询向量保留 int8 精度而文档向量压缩为二值符号,使多向量文档存储从 393 KiB 降至 12.28 KiB(压缩 97%),召回质量仅下降 0.61 NDCG@10。
美团发布 LongCat-2.0,1.6 万亿参数 MoE 模型,使用 5 万块华为昇腾芯片完成预训练和推理,成为首个在国产芯片上完成全流程训练的万亿级开源模型,面向智能体编程场景设计。
奥地利正式游说欧盟在境内部署 Anthropic 的 AI 系统,以应对美国对前沿模型实施的出口限制,凸显 AI 模型正成为地缘政治博弈的新焦点。
Wayfinder Router 通过分析提示词结构实现离线、确定性的 LLM 查询路由,无需模型调用即可决定查询去向,为智能体应用开发者提供零成本的推理分配方案。
Andrew Nesbitt 发布了一份虚构但令人不安的安全事件报告:一个恶意 npm 包逐一绕过了 7 道 AI 驱动的安全网关,每道防线都以不同的方式失效。
OpenAI 发布与 Broadcom 合作开发的首款自研推理芯片 Jalapeño,专为实时编码和智能体推理场景优化,性能功耗比显著优于现有方案,标志其 AI 基础设施战略进入芯片层面。
日本 AI 实验室 Sakana AI 推出 Fugu,将多模型动态编排与角色分配内化为一个 API,基于 ICLR 2026 论文 TRINITY 和 Conductor,实现从"手动编排"到"学习编排"的转变。
开发者 Devashish Meena 分享了他将 Qwen3-80B 和 Qwen3-4B 两个模型同时部署到一台 DGX Spark 的实际经验,揭示了 gpu_memory_utilization 的常见陷阱和 vLLM 多模型共存的配置方法论。
Cloudflare 发布临时账号功能,AI Agent 可通过 wrangler deploy --temporary 在无需注册的情况下直接部署 Worker,60 分钟内可迭代更新并最终转为永久账号,彻底打通 Agent 自主上线的最后障碍。
Model Context Protocol 正式发布企业托管授权扩展,允许企业通过身份提供商集中管控 MCP 服务器访问权限,员工首次登录即可自动连接所有已授权的智能体工具。
Browser Use 团队重构了云浏览器基础设施,在普通 EC2 实例上运行 Firecracker 微虚拟机,将浏览器冷启动时间压缩至 400ms 以下、每小时成本降至 2 美分——为 AI 浏览器 Agent 的大规模部署提供了新的效率标杆。
Elastic 发布基于 Elasticsearch 的智能体持久记忆层架构,采用情景记忆、语义记忆和程序记忆三大认知分类索引,结合混合检索与 RRF 重排序,在 168 个 QA 问题上达到 0.89 召回率,并实现跨租户数据完全隔离。
OpenFaaS 创始人 Alex Ellis 用 12,000 美元的 RTX 6000 Pro 显卡跑了一年本地模型后得出结论:Qwen 27B 在客户支持、代码审查和数据分析等特定任务中有真实价值,但远远无法取代云端前沿模型处理长周期、无监督的智能体编码工作。
SubQ 发布 Subquadratic Sparse Attention(SSA)模型 1.1 Small,在 1200 万 token 上下文长度上实现近乎完美的检索能力,计算量仅为传统密集注意力的 1/64。
xAI 与 Anthropic 和 Google 达成 GPU 租赁协议,月收入超 21 亿美元,展现出 AI 基础设施从自用到租赁的商业化新范式
安全研究机构 SafeDep 披露 Miasma 蠕虫通过 GitHub 仓库中的配置文件,在 Claude Code、Cursor 和 Gemini CLI 启动时自动执行恶意代码,已感染 121 个仓库。
Google 与 SpaceX 签署了一份史无前例的计算资源租赁协议,每月支付 9.2 亿美元租用约 11 万块 NVIDIA GPU,用于应对 AI 产品的超额需求。
Google 推出量化感知训练优化版 Gemma 4 模型,E2B 移动版仅需 1GB 内存,为智能体在手机和笔记本上本地运行扫清了关键障碍。
Microsoft 发布开源 PostgreSQL 扩展 pg_durable,将持久化执行模式直接引入数据库内部,无需外部编排系统即可实现容错工作流——这对智能体状态管理意义重大。
华为 CSL 实验室发布 KVarN,以方差归一化量化技术打破 KV 缓存瓶颈:吞吐量超越 FP16、精度无损、无需校准,专为智能体长上下文场景设计。
Red Hat 云服务的 npm 包仓库被发现包含恶意代码,影响多个企业级 JavaScript 客户端库。事件再次凸显开源供应链中信任机制的脆弱性。
OpenRouter 完成 1.13 亿美元 B 轮融资,CapitalG、NVIDIA、ServiceNow 等战略投资者集体入场,AI 推理路由层正在成为多模型时代的基础设施关键组件。
Obelisk 团队提出,对于大量智能体工作流场景,SQLite 加 Litestream 备份就能满足持久化需求,无需引入完整编排层。这种极简架构特别适合智能体系统常见的突发性、实验性负载。
Anthropic 宣布完成 650 亿美元 H 轮融资,估值达 9650 亿美元,年化收入已突破 470 亿美元。资金将用于扩大计算基础设施、推进安全研究并拓展企业市场。
Epoch AI 最新分析显示,高带宽内存在AI芯片组件中的成本占比从2024年Q1的52%升至2025年Q4的63%,年支出从120亿美元增至320亿美元。
一款围绕 DeepSeek 前缀缓存机制设计的开源终端智能体,在长会话中实现了 94% 的缓存命中率,将输入令牌成本降至常规用量的约五分之一。
一位独立 AI 研究员详细拆解了自建 6×RTX 6000 Ada GPU 服务器与租用云 GPU 的真实经济账,数据跨度 18 个月。
阿里的 Qwen3.7-Max 在代码智能体、MCP 集成和超长自主执行上实现突破,并在 35 小时的连续运行中独立完成了 GPU 内核优化,达到 10 倍加速。
Anthropic 收购 API SDK 和 MCP 服务器工具公司 Stainless,强化 Claude 与外部系统和数据的连接能力,加速智能体生态布局。
Modal 发布技术方案,结合云缓冲、自定义文件系统、进程检查点和 CUDA 检查点技术,将 AI 推理服务冷启动从数十分钟降至数十秒。
约翰·格鲁伯撰文反驳「苹果需要杀手级 AI 产品」的观点,认为 AI 更像无线网络——是渗透一切的技术基础设施,而非独立的产品品类。
数据分析显示,在 Apple M5 Max 上运行本地 LLM 推理,每百万 token 成本约为云端推理的 3 倍,速度慢 3-7 倍——对开发者而言,租比买更划算。
一篇深度分析指出,美国在AI领域的领先并不在于论文数量或工程师规模,而是拥有从芯片、数据中心到云平台和开发者生态的全栈整合能力。
Google 正式发布专为 Gemini 智能设计的笔记本电脑系列 Googlebook,配备 AI 指针、AI 控件生成等原生智能功能,将于 2026 年秋季上市。
开发者过度依赖云端 AI API 正在制造脆弱、侵犯隐私且成本高昂的应用。本地 AI 不仅可行,更是构建可信软件的更优路径。
Anthropic 与 SpaceX 签署协议,获得 Colossus 1 数据中心超过 300 兆瓦的全部算力(逾 22 万张 NVIDIA GPU),同时大幅提升 Claude Code 和 API 调用上限。这是 AI 基础设施军备竞赛中又一关键布局。
Reflex 的基准测试显示,基于屏幕截图的任务操控比直接调用 API 贵 45 倍,执行时间长 50 倍且结果不稳定,为智能体架构的经济学选择提供了硬数据。
OpenAI 工程师团队发表深度技术文章,详解如何重构 WebRTC 协议栈,以 Relay + Transceiver 分层架构支撑 9 亿用户的实时语音 AI 交互。
Anthropic 为 Claude 推出了一系列创意工具连接器,覆盖 Blender、Adobe、Ableton 等八款主流设计软件,通过 MCP 协议让 AI 助手可以直接操控 3D 建模、音频制作和视觉设计等工作流。
Google 计划向 Anthropic 投资最高 400 亿美元,其中 100 亿美元立即到账,其余部分与业绩里程碑挂钩。真正值得关注的是这笔交易把股权、云分发和 TPU 需求进一步绑定成了一条基础设施价值链。
Google 发布 TorchTPU,把 PyTorch 原生体验、XLA 编译链和 TPU 硬件能力更紧地绑在一起,核心目标是降低 TPU 生态的开发者迁移摩擦。
一篇新的 arXiv 综述提出,深度学习正在形成一套可检验、可量化、以训练动力学为核心的科学理论框架,作者将其称为 learning mechanics。对 AI 产业来说,这意味着模型开发可能逐步从经验主义转向更强的可预测工程。
Google 推出 TPU 8t 和 TPU 8i,把训练和推理拆成两条更清晰的路线,这反映出智能体时代的基础设施已经需要更强的分工与系统级优化。
据《日经亚洲》报道,即使供应商增加 DRAM 生产,到 2027 年底制造商预计只能满足 60% 的需求。SK 集团主席甚至表示短缺可能持续到 2030 年。
将文档助手会话启动时间从 46 秒降至 100 毫秒,边际成本从 $0.0137 降至 $0。基于 just-bash 和 Chroma DB 的虚拟文件系统。
免费开源的离线服务器,让任何人在自己电脑上运行完整 AI 系统。适合应急准备、离网生活或技术爱好者自托管。
tinygrad 背后的 Tiny Corp 推出 TinyBox 深度学习超级计算机,4x 9070 XT 版本售价 $12,000,现已发货。
Figma 推出 Claude Code to Figma 功能,让开发者可以直接将代码转换为可编辑的设计稿。在 AI 时代,设计的核心工作是在无限可能性中找到最佳解决方案。
Anthropic 开源 MCP,一个连接 AI 助手与数据系统的开放标准,解决 AI 与数据孤岛隔离的问题。