SemiAnalysis@SemiAnalysis_56
演讲被评为黄仁勋最差之一，AI数据中心方面未发布新内容。仅宣布Windows on NVIDIA ARM CPU，但该转型被认为难以成功。NVIDIA笔记本芯片已比原计划延迟6-8个月，开发中因高速连接干扰导致视频输出完全故障。据报道，笔记本厂商被告知禁止开机或运行基准测试，暗示硬件不成熟。
标签「部署/工程」清除
全部 AI 动态
AI 相关资讯全量信息流
6月1日
13:36
SemiAnalysis@SemiAnalysis_12:05
SemiAnalysis@SemiAnalysis_68
12:03
IT之家（RSS）
64
英伟达 CEO 黄仁勋在台北电脑展表示，AI减少岗位的说法是胡说八道，实际上软件工程师数量正在增加。他认为“有用”的AI时代已至，token是新的利润单位，AI是GDP生成器。同时，黄仁勋称下一代超级AI芯片Vera Rubin是其最雄心勃勃的产品，由4万名工程师参与研发，将于今年下半年推出，他预计其将比Grace Blackwell更加成功。
09:28
08:41
Berryxia.AI@berryxia63
该推文指出，许多付费的AI工具和专业软件（如Bloomberg）是资本维持收入的机制。GitHub上已有10个开源项目可替代它们，提供免费、功能强大且支持自托管的选项。示例包括：AutoHedge（自主交易代理）、Vibe-Trading（金融技能与代理系统）、Fincept Terminal（Bloomberg替代品）、LibreChat（多模型聊天）以及Open Higgsfield AI（电影工作室）等。这些项目让用户能完全掌控自己的数据和控制权，将原本昂贵的订阅服务免费提供给普通人。
10 GitHub repos so good they shouldn't be free. 1. AutoHedge An autonomous hedge fund built in Python with four AI agent...
08:28
08:00
OpenRouter：Announcements（RSS）
同事件精选77
OpenRouter 推出语音与转录 API、模型融合（Model Fusion）、私有模型部署和企业级工作空间控制功能。平台同时新增 20 个模型，其中包括 Gemini 3.5 Flash 和 Claude Opus 4.8。语音 API 支持实时语音识别与合成，模型融合允许用户组合多个模型的输出结果。企业工作空间提供更细粒度的权限管理与审计日志。
同一事件，精选展示《OpenRouter 5月发布亮点》推荐理由：OpenRouter五月更新不只是加模型，护栏、语音、模型融合全打包成API，开发团队读完就能用。月流量破百亿token还拿了1.13亿融资，平台稳定性会更强。
08:00
OpenRouter：Announcements（RSS）
同事件精选71
OpenRouter 发布5月更新，推出语音与转录API、模型融合功能、私有模型支持和企业工作区控制，并新增20款模型，包括Gemini 3.5 Flash和Claude Opus 4.8。
同一事件，精选展示《OpenRouter 5月发布亮点》推荐理由：OpenRouter 这次月度发布把安全护栏、多模型融合和语音 API 全补上了，Model Fusion 和 Pareto Code Router 对做 agent 的团队尤其实用，成本控制与质量权衡变得更直接。
08:00
HuggingFace Daily Papers（社区热门论文）
48
金融AI智能体常因用户需反复陈述目标、风险偏好、投资组合和市场假设而失败。研究人员提出InKH架构，将用户、市场、组合和工具事件转化为结构化知识，采用被动知识注入、时间图记忆、wiki审计面及带成熟度与失效的背景提取。在46,080次评估中，InKH平均任务质量0.815（900ms延迟）。相比agent驱动的wiki-walk记忆，延迟降低82.95%，token成本降低82.29%，过时知识使用减少96.58%，质量提升0.108。验证了系统吸收复杂性而非转嫁用户的理念。
07:28
Rohan Paul@rohanpaul_ai28
04:25
SemiAnalysis@SemiAnalysis_26
We have the first @DellTech + @nvidia Vera Rubin NVL72 @CoreWeave. Here we go! 🚀
00:15
Hacker News 热门（buzzing.cc 中文翻译）
精选70
一名用户以200英镑的价格购入了一块数据中心级GPU，并将其成功安装到自己的游戏电脑中。文章记述了这一非标准硬件改装过程、遇到的技术挑战以及最终实现本地运行大语言模型的体验。
推荐理由：一个200英镑的二手 V100 加适配器，就让游戏电脑用上了 32GB 显存，跑 Qwen3.6-27B 达到 32 tok/s，噪音问题也解决了。对于想低成本本地跑大模型的人，这篇 DIY 手记很实用。
5月31日
16:47
The Decoder：AI News（RSS）
62
软银计划在法国建设最高5吉瓦容量的AI数据中心，总投资额最高达750亿欧元，这是其在欧洲最大的AI基础设施投资。计划到2031年，在法国北部三个地点建成价值450亿欧元的设施。不过，软银在全球宣布的诸多类似项目至今尚未完全落地。
15:48
Rohan Paul@rohanpaul_ai59
We have the first @DellTech + @nvidia Vera Rubin NVL72 @CoreWeave. Here we go! 🚀
15:16
StepFun@StepFun_ai同事件精选80
i am running stepfun's new step 3.7 flash on a dgx spark right now. 198b vision model, on a box that sits on a desk. her...
同一事件，精选展示《在 NVIDIA GPU 上运行面向企业级就绪的多模态 AI--Step 3.7 Flash》推荐理由：把 198B 的视觉模型塞进一台桌面盒子，还跑通了，这本身就是个小里程碑。更关键的是，这篇实战直接帮你绕开了三个大坑，省下的三小时够你喝杯咖啡慢慢试了。
12:24
IT之家（RSS）
66
10:49
SemiAnalysis@SemiAnalysis_61
08:24
IT之家（RSS）
42
小米公布其 MiMo 模型推理系统的全链路优化技术细节，核心是通过 Hybrid SWA 架构将 KVCache 存储压缩至 1/7，并结合分级缓存与调度，显著降低长序列推理成本，最高降价达 99%。此外，AI 独角兽 MiniMax 已与中信证券签署辅导协议，正式启动 A 股 IPO 进程。
07:24
IT之家（RSS）
71
软银集团宣布计划投入至多 750 亿欧元，在法国扩建并运营总功率最高达 5 吉瓦的数据中心。项目一期将在敦刻尔克、博斯凯勒和布尚三地兴建，目标在 2031 年为上法兰西大区提供 3.1 吉瓦的算力容量。作为 OpenAI 的投资方，软银称这是其在欧洲规模最大的 AI 基础设施投资。
05:43
Simon Willison 博客
精选73
作者展示了如何在浏览器中通过 Pyodide 和 Service Worker 运行 Python ASGI 应用。此前的 Datasette Lite 使用 Web Workers，但无法执行 <script> 标签中的 JavaScript。新方案由 Claude Opus 4.8 协助完成开发，解决了这一问题。作者已展示了基础的 ASGI FastCGI 演示和运行 Datasette 1.0a31 的演示，并计划后续将此方法应用于升级 Datasette Lite。
推荐理由：Simon Willison 用 Service Worker 让 Python ASGI 在浏览器里真正跑了起来，这个技巧补上了 Datasette Lite 长期缺的 JS 执行能力，搞 Pyodide 的值得看看。
05:19
SemiAnalysis@SemiAnalysis_53
04:17
Rohan Paul@rohanpaul_ai76
软银宣布在法国投资750亿欧元，旨在打造欧洲规模最大的AI算力设施。该计划旨在利用当地稳定廉价的核电。项目分阶段推进，第一阶段投资450亿欧元，目标是到2031年在法国北部-加来海峡大区建成3.1GW容量，随后再增加2GW，最终形成5GW的AI综合体。敦刻尔克是核心选址，施耐德电气预计参与建设AI基础设施及机器人制造中心。融资是潜在挑战，行业估算显示1GW的AI基础设施成本约为500亿美元，因此软银可能需要依赖大量项目债务和外部合作伙伴。
02:43
Hacker News 热门（buzzing.cc 中文翻译）
63
00:34
Berryxia.AI@berryxia51
小米MiMo-V2.5系列近期实现了API降价。其核心支撑是团队对推理系统进行了彻底的工程重构。模型基于Hybrid Sliding Window Attention架构，理论上可将KVCache存储压缩至全注意力模型的约1/7。为将此架构优势落地，团队重新设计了KVCache管理、层级缓存和prefix-cache tree，并深度优化了调度与Prefill/Decode流水线。经真实生产流量验证，有效KVCache容量提升了近5倍，服务端缓存命中率稳定在93%-95%。这些优化与MoE配置调优共同作用，显著降低了长上下文推理成本，从而支撑了本次降价。
Inference Optimizations Behind the MiMo-V2.5 Series API Price Reductions Read the full technical blog: https://mimo.xiao...
00:12
Hacker News 热门（buzzing.cc 中文翻译）
精选71
由于运行和使用AI工具的成本持续飙升，美国企业正开始对人工智能的使用实施配给制。企业通过限制使用量、设置分层级审批流程等方式控制开支，以应对AI费用增长过快的问题。这种从广泛采用转向精细化管理的策略，标志着企业在AI应用上从追求速度转向注重成本效益。
推荐理由：成本飙升让大企业开始对AI‘配给’，这是面向企业的AI产品必须回答的ROI考题，以前铺量抢客户的玩法得切换成算清每一分钱的价值。
5月30日
22:24
IT之家（RSS）
58
19:44
19:21
IT之家（RSS）
61
小米 MiMo-V2.5 系列 API 完成永久降价，最高降幅达 99%。其技术基础是公开的推理系统全链路优化方案：针对 Hybrid SWA + MoE + 多模态的复合架构，系统性重构了 KVCache 管理、分级缓存、前缀缓存与调度策略。核心优化包括将 KVCache 存储压缩至约 1/7，线上前缀缓存命中率平均达 93%，TTFT P90 降低 30%，Prefill 性能提升约 40%，Decode 阶段前 128 token 加速比达 2.3×。多模态视频处理端到端延时从 156 秒降至 23 秒。该方案宣称是业内首篇全面覆盖此类复合架构的大规模工程落地方案，模型能力无缩减。
18:55
Fuli Luo@_LuoFuli63
MiMo-V2.5 系列模型（包括 MiMo-V2.5 和 MiMo-V2.5-Pro）采用混合滑动窗口注意力（Hybrid SWA）架构，将 KVCache 存储压缩至全注意力的约1/7。为将架构优势转化为实际收益，团队重新设计了 KVCache 管理、分层缓存和前缀缓存树，并优化了 SWA KVCache 处理、调度及 Prefill/Decode 流水线。经真实生产流量验证，这些优化将有效 KVCache 容量提升近5倍，主流框架下服务器端缓存命中率达93%-95%。结合 MoE 配置调优与多模态推理优化，提升了长上下文推理效率，是近期 API 降价的基础。
18:46
Rohan Paul@rohanpaul_ai69
亚马逊推出了名为“Resilient Network Graphs”(RNG) 的新数据中心网络架构。该设计以扁平的准随机图替代了传统的树形网络，并通过Spraypoint路由系统和ShuffleBox布线设备在多个独立路径上分散流量。测试显示，RNG在性能上与传统fat-tree网络持平，但硬件需求减少69%，吞吐量提升33%，并估算成本可降低9%至45%。该架构现已成为大多数AWS工作负载的默认网络，其分散负载的能力有助于提升AI集群训练效率。
18:39
公众号：小米 MiMo
59
小米发布 MiMo-V2.5 系列模型（含 MiMo-V2.5、MiMo-V2.5-Pro），采用 Hybrid Sliding Window Attention（Hybrid SWA）架构，KVCache 存储与计算量均降至 Full Attention 的约 1/7。以 MiMo-V2.5-Pro 为例，70 层中仅 10 层为 Full Attention，60 层为 SWA（窗口大小 128）。团队围绕 KVCache 系统重构（双池管理、按层异步拉取、SWA-aware 前缀缓存树）及分布式缓存 GCache 等环节优化，使存储效率提升约 7×，显著降低长上下文推理成本。
17:21
IT之家（RSS）
53
日本云服务提供商 Data Section 与 OpenAI 达成战略合作，将于亚太地区通过其企业级 AI 工作流平台 TAIZA 提供 OpenAI 模型。此举标志着 OpenAI 从依赖微软 Azure 的单平台策略转向多区域、分布式算力部署模式，以更好地应对数据主权与监管合规挑战。
15:46
Rohan Paul@rohanpaul_ai47
日本AI数据中心热潮正推动企业从传统空气冷却转向液冷技术，主要原因是AI GPU机架的散热需求激增。当前冷却已占数据中心用电量的30%至40%，且GPU发热量在5年内翻了一倍多。传统风冷因空气载热能力有限，面临噪声大、能耗高及物理空间限制。液冷技术通过将金属冷板直接贴合芯片，利用液体流道高效导热，能更高效地移除热量并提升芯片温度稳定性。其主要挑战在于安装成本较高且需专门的服务器机架设计。日本的Fuji Electric、Nidec、Mitsubishi Heavy等公司正积极开发相关系统。
11:41
Hacker News 热门（buzzing.cc 中文翻译）
61
Tiny-vLLM 是一个用 C 和 CUDA 编写的高性能大语言模型推理引擎，项目代码已开源至 GitHub。
08:40
Hacker News 热门（buzzing.cc 中文翻译）
62
根据2026年5月29日发布的一则消息，一个名为 Hy3 的神秘大语言模型（LLM）在 OpenRouter 模型排行榜上取得了显著领先优势，位居榜首。OpenRouter 是一个 AI 模型聚合平台，其排行榜反映了不同模型的综合表现。该信息最初发布于 minimaxir.com，并获得了科技社区 HN 的关注。然而，关于该模型的具体技术细节、开发者信息以及性能评分，原文并未提供更多说明。
08:18
07:19
OpenRouter：Announcements（RSS）
精选69
Guardrails 是一套可配置的安全与治理工具，提供预算执行、零数据保留、模型与提供商限制、提示词注入防御及数据丢失预防等功能，旨在保护智能体（Agents）、数据与控制成本。
关联讨论 2 条OpenRouter：Announcements（RSS）X：OpenRouter (@OpenRouter)推荐理由：OpenRouter 把预算管控、注入防御和敏感信息脱敏打包成一套 guardrail 配置，让投喂给 Agent 的流量有了护栏，用 OpenRouter 做生产级应用的团队可以立刻用上，不用自己搞中间件。
01:18
SemiAnalysis@SemiAnalysis_56
01:15
Rohan Paul@rohanpaul_ai精选76
Kog团队在标准数据中心GPU上实现了极高的单用户推理速度，在8× AMD MI300X GPUs上达到3,000 tokens/s，在8× NVIDIA H200上达到2,100 tokens/s。相比常规推理速度（约100-300 tokens/s），实现了10-30倍提升。其核心思路是将LLM解码视为内存流问题，通过协同设计monokernel、重建同步机制、针对性内存访问映射及采用延迟张量并行的Laneformer模型架构，消除了传统流程的阻塞点。
推荐理由：Rohan亲自测完Kog AI的3000 token/s，把单用户推理速度拉高了10-30倍，这套monokernel设计可能改写低延迟推理的玩法，做实时AI产品的团队必须盯紧。
00:49
Artificial Intelligence News（RSS）
50
OpenAI发布前沿治理框架（FGF），为在全球范围内部署安全、合规的企业级大语言模型提供结构化蓝图。该框架系统性地阐述了如何评估和缓解AI相关的系统性风险，并直接映射到相关标准，旨在帮助机构可持续地规模化商用AI架构。