内容
精选全部 AI 动态AI 日报主题收藏
接入
Agent 接入
更多
关于更新日志反馈
内部员工登录
精选全部日报更多
反馈
内部员工登录

精选

AIHT7月17日 · 周五
最新精选
全部模型产品行业论文技巧
标签「部署/工程」清除

7月16日周四

20:30公众号:百度智能云(文心)67秒哒 3.5 全球首发 iOS App,无代码开发与多端共享后端能力升级秒哒3.5把无代码开发推到了iOS端,一键打包、多端共享后端这些能力对非技术创业者是真降门槛。但百度生态外的吸引力有限,适合已有秒哒应用的人直接升级。
18:10公众号:小红书技术(dots.llm)77HYPIC:小红书联合北大、上交提出首个混合注意力大模型位置无关缓存系统混合注意力模型终于有了可用的位置无关缓存方案,HYPIC 用转移算子缓存和缝合窗口解决了长期兼容难题,对长上下文推理服务的加速意义重大,做推理 infra 的团队可以马上看论文和代码。
16:43IT之家(RSS)78台积电上调2026年资本支出预测至600~640亿美元,A14制程进展顺利台积电这次资本支出上调不是财务数字游戏,而是直接宣告了AI算力在未来三年的供给曲线,做AI硬件的同行和投资人必须正视这轮扩产。
08:21公众号:数字生命卡兹克68远程操控Agent干活方案:Codex主力 + UU远程兜底卡兹克这套 Codex 加 UU 远程的组合,从工作流上解决了多设备协同的痛点,远程扫码的兜底用法尤其巧妙,适合不想被绑在办公桌前的 Agent 使用者。

7月15日周三

23:59Hacker News 热门(buzzing.cc 中文翻译)77Telegram 无服务器架构Telegram 给机器人开发搭了一套完整的无服务器后端,内置数据库和 CLI,从写代码到部署都在一个文件夹里完成。做 Telegram 机器人的开发者可以彻底扔掉 VPS 和云函数了。
11:59Hacker News 热门(buzzing.cc 中文翻译)72数据中心已使美国公众电费增加230亿美元,回收成本困难重重文章拆开了美国电力市场成本分配的规则漏洞,原来数据中心能靠预测高峰期降载来逃掉电费,普通住户根本没法复制,最后账单还是落在我们头上。

7月14日周二

23:33Google AI Developers70Google AI 发布 Gemini 3.5 Live Translate,支持 70+ 语言近实时语音到语音翻译Google把Gemini 3.5的语音翻译做到了近实时、保持语调,这对出海产品是个很实际的升级,实时通话翻译终于从demo走向可用。
17:00公众号:腾讯混元73腾讯混元 Hy3 量化版发布:1bit 版本单卡可部署,4bit 版本接近满血性能295B 的旗舰模型压到一张 96G 卡就能跑,1bit 量化在长文理解和代码上居然没崩,对于想本地跑大模型的开发者是个实打实的好消息。

7月13日周一

07:54Hacker News 热门(buzzing.cc 中文翻译)70Ploy 将 AI 智能体默认模型从 Claude Opus 4.8 切换至 GPT-5.6 Sol这篇 Ploy 的迁移手记把 GPT-5.6 生产中踩的坑都摊开了,工具调用参数膨胀和缓存键设计两个问题,做 agent 的团队不看可能会付昂贵学费。

7月12日周日

10:53Hacker News 热门(buzzing.cc 中文翻译)77Mesh LLM:在 iroh 上进行分布式人工智能计算Mesh LLM 把多台机器的 GPU 拼成一个推理集群,让大模型在自建网络上运行。对想省钱且需隐私的开发者来说,这是一个值得尝试的实用工具。

7月11日周六

01:19LMSYS:Blog(Chatbot Arena 团队)61DeepSeek-V4 Flash 强化学习训练登陆 AMD Instinct MI355X GPU,由 Miles 框架支持把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。

7月10日周五

18:00公众号:小红书技术(dots.llm)70小红书发布大模型新架构 PIPOPIPO把输入压缩和输出多token预测统一起来,并且用蒸馏把验证成本前置,长推理的场景下这可能是下一代推理引擎的样子,做模型加速的应该认真看看。
15:27IT之家(RSS)75扎克伯格首度回应 Meta"算力过剩":没人会嫌算力太多,但租出去更赚钱扎克伯格首次确认 Meta 要做云业务,从‘自用’到‘出租’的转变很关键,这可能是 AI 基础设施从军备竞赛转向平台化的信号,做底层算力和云服务的团队有必要盯着。
12:01公众号:龙猫LongCat(美团)74美团 LongCat-2.0 正式开源,同步开放国产卡推理代码国产算力跑万亿模型的第一份完整开源答卷,代码、芯片适配细节全公开,做国产大模型落地的直接抄作业。
06:51Hacker News 热门(buzzing.cc 中文翻译)70Show HN: 如何在我的低配置电脑上运行 GLM-5.2这个单C文件项目让744B的MoE模型在25GB内存的笔记本上跑了起来,虽然慢,但证明了消费级硬件也能把前沿模型‘盘活’,做本地推理的极客值得看看。
06:00TechCrunch:AI(RSS)73AI 能否回答 3 万亿美元的问题?Sequoia和Apollo的经济学家同时拉响警报,AI基建支出今年1.5万亿美元,需要3万亿收入才回本。这不是唱衰,是给产品人一个倒计时,开源模型和掉价的token让这账更难算。
05:44OpenAI Developers68ChatGPT Sites将创意变可发布网站ChatGPT Sites 把建站门槛拉到一句话描述,我觉得这是 ChatGPT 从「聊完就忘」到「留下东西」的关键一步,但现阶段模板和分发都太简陋,产品人可以先尝鲜别急着押注。

7月9日周四

22:33Mistral AI:News(网页)55Mistral 推出 Studio,为 AI 提示词和技能提供系统记录企业提示词管理混乱是真实痛点,Studio 这次更新把治理和迭代闭环做进了生产系统,比单独的目录工具更进一步。
16:57MarkTechPost(RSS)70NVIDIA 发布 Nemotron-Labs-3-Puzzle-75B-A9B:压缩混合 MoE 模型,服务器吞吐量提升 2.03 倍把120B MoE压到75B后,同节点服务吞吐几乎翻倍,单张H100百万token并发从1涨到8。对长上下文RAG和AI编码助手这类对吞吐敏感的产品来说,这不是论文调优,是实打实的降本方案。
07:38Tomer Tunguz 博客(VC 分析)57AI预检检查:智能体工作记忆架构Tunguz 把代理的记忆问题拆成预检+看门狗,不是大模型调参,而是软件架构层的优化,做 agent 的开发者可以直接偷师。
04:38OpenAI:官网动态(RSS · 排除企业/客户案例)58OpenAI发布政府与国家安全合作伙伴关系方针OpenAI 首次公开发布国家安全合作原则,同时宣布与多国建立网络和生物防御伙伴关系。我觉得这是头部 AI 公司在军事合作上的一次主动透明化尝试,值得看看他们如何设限。
00:21Hugging Face:Blog(RSS)66原生速度的 vLLM transformers 建模后端用 transformers 写的模型,现在不用改一行代码就能在 vLLM 里跑到手写实现的水平,模型作者最大的集成痛被抹平了。虽然主要是工程黑魔法,但生态意义不小。

7月8日周三

14:05小互79工信部发布Claude Code后门安全风险提示工信部这份公告不是泛泛的安全提醒,而是直接点名Claude Code特定版本内置数据回传,这对所有中国开发者团队都是一个立即行动的命令,Claude Code在中国的信任危机开始了。
03:18Hugging Face:Blog(RSS)67Hugging Face Storage 成为 SkyPilot 一级后端:零出站费跨云存储Hugging Face 和 SkyPilot 把存储和算力真正解耦了,跨云读取模型零出口费,用过 SkyPilot 的团队可以立刻省下那块 egress 账单。
01:38Tomer Tunguz 博客(VC 分析)77FDE爆发:AI公司12个月承诺97.5亿美元部署工程Tunguz 把近 100 亿美元 FDE 投资掰成三种结构,让我意识到 AI 竞争已经从模型卷到了客户内部——嵌入式工程可能比 API 更深的护城河。

7月7日周二

17:20TechCrunch:AI(RSS)70美国首批自主地面车辆在乌克兰参战这是首次有美国自主地面车辆在实战中长期部署的详细报道,做军事 AI 的人可以认真读,但对多数从业者来说只是猎奇。
12:19蚂蚁 inclusionAI:GitHub 新仓库72蚂蚁 inclusionAI 开源多智能体协作基础设施 Avernet V0.1蚂蚁开源的Avernet把多agent协作的发现、连接、共识和可追踪执行做成基础设施,做agent应用的团队可以拿来即用,虽早期但方向对。
01:11LMSYS:Blog(Chatbot Arena 团队)63SGLang 集成 DSpark 推测解码:置信度驱动的可变长度验证DSpark 这版推测解码的工程落地比论文本身更有看头——SGLang 用 ragged CUDA Graph 和动态调度把 trimm 掉的计算按字节级回收,383 tok/s 的单请求速度对部署方是即时可用的性能增益。

7月6日周一

05:16SemiAnalysis76NVIDIA Kyber NVL144 延迟超 12 个月至 2028NVIDIA的Kyber NVL144延迟12个月,Rubin Ultra的scale-up架构也被砍,这对2027-2028年AI算力供给是重大打击,云厂商和模型训练团队都得重新做规划。
02:23Rohan Paul84扎克伯格:建千兆瓦级AI集群,集中精英与资本扎克伯格亲口确认千兆瓦级 AI 集群计划,数百亿美元砸向基础设施,我觉得这是算力军备竞赛的又一个关键节点,所有靠云算力的团队都得关注。

7月5日周日

02:23AYi77SpaceX与Anthropic每月12.5亿美元算力合同:算力成新基本盘SpaceX 一份每月 12.5 亿美元的算力合同浮出水面,关键不是金额而是条款——SpaceX 可随时收回算力自用。航天公司成了核心玩家,算力竞争的门槛和格局都被拉高了。

7月4日周六

08:00Lilian Weng:Lil'Log(RSS)57Harness Engineering for Self-Improvement:AI装备层设计模式与自改进Lilian Weng 这篇综述把 agent 自改进的脉络从 harness 设计一路拉到进化搜索,近期关键研究基本都串起来了,做 coding agent 和自动研究的同行建议通读。

7月3日周五

18:00公众号:面壁智能(MiniCPM)65面壁智能发布AI全自动预训练框架ForgeTrain,8小时追平Megatron-LM这是AI编写生产级训练框架的首个实证,8小时追平Megatron-LM并反超,证明AI打穿Infra的范式已到临界点,做训练框架和Infra的都该看看。
10:34HuggingFace Daily Papers(社区热门论文)74Program-as-Weights:一种面向模糊函数的编程范式这篇论文把模糊任务从调用大模型API变成了本地轻量函数,0.6B就能跑赢32B,省掉几十倍成本。对需要处理日志、JSON修复等经常性模糊任务的开发者是个真信号。
05:08MarkTechPost(RSS)70阿里巴巴发布 Page Agent:开源 JavaScript 库实现网页 DOM 自然语言操控Page Agent 把浏览器自动化从外部驱动变成页面内 JS,读 DOM 而非截图,让 SaaS 内的 AI 助手成本更低、更精准,适合自己产品内嵌 copilot 的团队。
03:45The Decoder:AI News(RSS)78Microsoft 成立"Frontier Company",斥资 25 亿美元派驻 6000 名 AI 工程师到企业客户现场微软砸 25 亿美元成立 Frontier Company,把 6000 名工程师直接塞进企业客户现场,正面应战 OpenAI 和 Anthropic 的部署子公司。这一手既是补齐落地能力也是巩固生态,对 CIO 来说是选择多了,但对 AI 行业意味着部署军备竞赛正式开打。
02:37LMSYS:Blog(Chatbot Arena 团队)59Agent辅助的SGLang开发:初步探索这不是一篇普通的开发经验总结,而是 SGLang 团队把调试、基准测试和性能调优等重复劳动变成可执行 agent 技能的实操手册,对于做推理框架和复杂工程的人非常值得一看。
02:03Claude:Blog(网页)61Claude Enterprise 新增用量与成本分析及支出管控功能企业版管理员终于有了按群组和用户的成本明细、模型权限和花费警告。我觉得规模化部署 Claude 的团队会很看重这些,尤其能把 Claude Code 的价值量化成 ROI,财务团队可以直接拉进现有系统,不是一次性噱头。

7月2日周四

23:06IT之家(RSS)74花旗、Adobe等企业限制员工使用AI旗舰模型以控制成本这是第一份详细揭露大公司AI成本失控的内部报告,花旗直接禁用GPT-5.5和Claude 4.7,把「按需匹配模型」写进全员邮件,对所有在铺AI的企业都是一记现实的耳光。
19:39Ars Technica:AI(RSS)70谷歌AI建设导致2025年用电量增长37%谷歌2025年电力消耗暴增37%创历史纪录,清洁能源购买未能完全掩盖新建天然气电厂的排放,AI扩张的环境代价正加速兑现。
精选
2026年7月17日星期五 · AI 自动挑选的高价值内容
全部模型产品行业论文技巧

7月16日

星期四 · 4 条
20:30
公众号:百度智能云(文心)精选
67
秒哒 3.5 全球首发 iOS App,无代码开发与多端共享后端能力升级

百度智能云在 WAIC2026 发布秒哒 3.5,新增 iOS 打包能力,用户无需 Mac 或 Xcode 即可将应用打包为 IPA 文件或上架 App Store。3.5 版本还内置 SEO Agent 实现搜索优化自动化,支持多应用共享同一后端数据库,并推出数据库多环境隔离与后端资源分级功能。秒哒累计服务超 3500 万用户,已创造 350 万个商业应用。

智能体产品更新搜索部署/工程

推荐理由:秒哒3.5把无代码开发推到了iOS端,一键打包、多端共享后端这些能力对非技术创业者是真降门槛。但百度生态外的吸引力有限,适合已有秒哒应用的人直接升级。
18:10
公众号:小红书技术(dots.llm)精选
77
HYPIC:小红书联合北大、上交提出首个混合注意力大模型位置无关缓存系统

HYPIC 在混合注意力大模型上实现了位置无关缓存,将首 token 延迟平均降低 3.25 倍。在 4 个生产级模型上,同 SLO 下可持续 QPS 提升 1.66 倍,任务质量与完全重算仅相差 1.71 分。

arXivGitHub推理论文/研究

推荐理由:混合注意力模型终于有了可用的位置无关缓存方案,HYPIC 用转移算子缓存和缝合窗口解决了长期兼容难题,对长上下文推理服务的加速意义重大,做推理 infra 的团队可以马上看论文和代码。
16:43
IT之家(RSS)精选
78
台积电上调2026年资本支出预测至600~640亿美元,A14制程进展顺利

台积电在2026Q2财报说明会上将2026年资本支出预测上调至600~640亿美元,此前预测接近560亿美元。董事长魏哲家表示,预计2028年量产的A14制程(1.4nm)开发进展顺利,移动和HPC客户兴趣强烈,将成为比2nm更大、更持久的工艺。台积电预计2026Q3合并营收446~458亿美元,2026全年美元收入增幅将超过40%。

行业动态部署/工程
另有 1 家信源报道X:Kim (@kimmonismus)
推荐理由:台积电这次资本支出上调不是财务数字游戏,而是直接宣告了AI算力在未来三年的供给曲线,做AI硬件的同行和投资人必须正视这轮扩产。
08:21
公众号:数字生命卡兹克精选
68
远程操控Agent干活方案:Codex主力 + UU远程兜底

作者分享了一套远程使用Agent的组合方案:以Codex的远程控制功能作为主力,通过ChatGPT App连接家中24小时开机的Mac Mini,同步所有开发任务、规则和Agent记忆;遇到扫码登录、图形界面操作等Codex难以处理的场景时,用网易UU远程在手机上直接操控电脑完整桌面。UU远程完全免费,支持多设备协同,无需局域网或公网配置。

智能体OpenAI教程/实践部署/工程
另有 1 家信源报道X:卡兹克 (@Khazix0918)
推荐理由:卡兹克这套 Codex 加 UU 远程的组合,从工作流上解决了多设备协同的痛点,远程扫码的兜底用法尤其巧妙,适合不想被绑在办公桌前的 Agent 使用者。

7月15日

星期三 · 2 条
23:59
Hacker News 热门(buzzing.cc 中文翻译)精选
77
Telegram 无服务器架构

Telegram Serverless 允许开发者直接在 Telegram 基础设施上运行 Bot 和 Mini App 的后端代码,无需配置服务器或容器。开发者编写普通 JavaScript 模块,通过 npx tgcloud push 单命令部署,代码在靠近 Bot API 和内建数据库的轻量级 V8 隔离沙箱中执行。

产品更新教程/实践部署/工程

推荐理由:Telegram 给机器人开发搭了一套完整的无服务器后端,内置数据库和 CLI,从写代码到部署都在一个文件夹里完成。做 Telegram 机器人的开发者可以彻底扔掉 VPS 和云函数了。
11:59
Hacker News 热门(buzzing.cc 中文翻译)精选
72
数据中心已使美国公众电费增加230亿美元,回收成本困难重重

数据中心对电力的需求已导致美国公众电费增加230亿美元,这一涨价将持续至2028年底。由于电价由州公用事业委员会根据复杂的成本分摊规则设定,数据中心可利用其用电灵活性(如避开系统峰值负荷)规避部分成本分摊,而普通居民难以效仿。监管机构正面临如何公平分配电网基础设施投资成本的挑战。

政策/监管现象/趋势部署/工程

推荐理由:文章拆开了美国电力市场成本分配的规则漏洞,原来数据中心能靠预测高峰期降载来逃掉电费,普通住户根本没法复制,最后账单还是落在我们头上。

7月14日

星期二 · 2 条
23:33
Google AI Developers@googleaidevs精选
70
Google AI 发布 Gemini 3.5 Live Translate,支持 70+ 语言近实时语音到语音翻译

Google AI 发布 Gemini 3.5 Live Translate,支持 70+ 语言、近实时延迟的语音到语音翻译。该模型直接处理原始音频流,保留说话者语调、节奏和音高。东南亚超级应用 Grab 正探索将其用于司机与乘客间的跨语言沟通,其用户每月发起超 1000 万次语音通话。开发者可通过 Gemini Live API 集成 LiveKit、Fishjam、Pipecat 或 Vision Agents 构建应用。LiveKit 已实现虚拟会议室多语言即时理解;Software Mansion 结合 MoQ 协议突破流媒体瓶颈;VisionAgents AI 展示了动态多语言切换能力。开发者可在 Google AI Studio 试用并获取 Cookbook 示例代码。

Google产品更新语音部署/工程

推荐理由:Google把Gemini 3.5的语音翻译做到了近实时、保持语调,这对出海产品是个很实际的升级,实时通话翻译终于从demo走向可用。
17:00
公众号:腾讯混元精选
73
腾讯混元 Hy3 量化版发布:1bit 版本单卡可部署,4bit 版本接近满血性能

腾讯混元团队为旗舰模型 Hy3(295B 参数)推出量化版本。1bit 版本(IQ1_M)将权重从 598 GB 压缩至 85.5 GiB,缩小 6.7 倍,单张 96GB 推理显卡即可部署;4bit 版本(Q4_K_M)体积 169.9 GiB,两张显卡可承载。量化版在 Agent、多语言代码、工具调用、长文理解等任务上表现接近满血模型。团队还提供 GPTQ Int4 版本,支持 vLLM 部署。配合 MTP 投机解码,1bit 版本解码速度提升约 50%,4bit 版本提升近 60%。所有版本已开源并打包为 GGUF 格式,适配 llama.cpp 生态。

开源生态模型发布部署/工程
另有 1 家信源报道IT之家(RSS)
推荐理由:295B 的旗舰模型压到一张 96G 卡就能跑,1bit 量化在长文理解和代码上居然没崩,对于想本地跑大模型的开发者是个实打实的好消息。

7月13日

星期一 · 1 条
07:54
Hacker News 热门(buzzing.cc 中文翻译)精选
70
Ploy 将 AI 智能体默认模型从 Claude Opus 4.8 切换至 GPT-5.6 Sol

Ploy 将其 AI 智能体默认模型从 Claude Opus 4.8 切换至 OpenAI 今晨发布的 GPT-5.6 Sol。在真实营销网站构建测试中,GPT-5.6 Sol 完成页面平均耗时 3 分 42 秒,较 Opus 4.8 的 8 分钟快 2.2 倍;每次构建成本从 3.06 美元降至 2.22 美元,降低 27%;输出 token 从 33.0K 降至 17.1K,视觉评分从 0.936 提升至 0.970。迁移过程发现,GPT-5.6 会为所有 25 个工具参数填充默认值,导致 52%-64% 的文件读取返回空结果;提示词指令和 OpenAI strict 模式均无法修复此行为。此外,评估框架中约三分之一的原始失败源于针对旧模型的假设,而非模型本身问题。

OpenAI教程/实践部署/工程

推荐理由:这篇 Ploy 的迁移手记把 GPT-5.6 生产中踩的坑都摊开了,工具调用参数膨胀和缓存键设计两个问题,做 agent 的团队不看可能会付昂贵学费。

7月12日

星期日 · 1 条
10:53
Hacker News 热门(buzzing.cc 中文翻译)精选
77
Mesh LLM:在 iroh 上进行分布式人工智能计算

Mesh LLM 是一个开源项目,能将用户多台机器上的 GPU 和内存池化,对外暴露兼容 OpenAI 的 API。它通过 iroh 网络库实现点对点连接,无需中央服务器。请求可在本地 GPU 运行、路由到已加载模型的节点,或将大模型按层分区(内部称“Skippy”)流水线式拆分到多台机器。系统内置 40 多个模型,从 5 亿参数到 235B MoE 巨模型均可支持。软件体积约 18 MB,启动后以 localhost:9337/v1 提供服务。

开源/仓库部署/工程

推荐理由:Mesh LLM 把多台机器的 GPU 拼成一个推理集群,让大模型在自建网络上运行。对想省钱且需隐私的开发者来说,这是一个值得尝试的实用工具。

7月11日

星期六 · 1 条
01:19
LMSYS:Blog(Chatbot Arena 团队)精选
61
DeepSeek-V4 Flash 强化学习训练登陆 AMD Instinct MI355X GPU,由 Miles 框架支持

DeepSeek-V4 Flash 的强化学习训练现已在 AMD Instinct MI355X GPU 上通过 Miles 框架获得支持,基于 ROCm 软件栈运行。该 2840 亿参数 MoE 模型(每 token 激活 130 亿参数)需 SGLang 进行 rollout 生成、Megatron 进行策略更新,Miles 负责异步循环与权重同步。团队解决了 SGLang 与 Megatron 间模型对齐、量化状态在线更新及多节点并行稳定性三大挑战,最终在四个八 GPU 节点上完成端到端验证:超过 100 个优化器步骤中训练-rollout 对数概率差可控,在线奖励持续提升,离线 AIME-2024 基准分数同步上涨。

DeepSeek推理论文/研究部署/工程

推荐理由:把 DeepSeek-V4 Flash 的 RL 训练完整搬到 AMD MI355X 上,不是画饼,而是给了实测数据和可跑的配置。想用非 NVIDIA 卡做 RL 训练的,可以照着踩坑。

7月10日

星期五 · 6 条
18:00
公众号:小红书技术(dots.llm)精选
70
小红书发布大模型新架构 PIPO

小红书提出 PIPO 架构,通过输入侧压缩器将两个 token 折叠为一个 latent,输出侧 MTP head 将隐藏状态展开为额外 token,实现输入长度减半、每步输出翻倍。基于 Qwen3.5-4B/9B backbone,在 AIME 2025 等基准上最高带来 +7.15 pass@4 提升。部署测评中,TTFT 加速约 1.23×,TPOT 加速约 1.86×。训练采用 SFT 和 On-Policy Distillation 两阶段,将 verifier 校验能力蒸馏进轻量 confidence head。

GitHub推理论文/研究部署/工程

推荐理由:PIPO把输入压缩和输出多token预测统一起来,并且用蒸馏把验证成本前置,长推理的场景下这可能是下一代推理引擎的样子,做模型加速的应该认真看看。
15:27
IT之家(RSS)精选
75
扎克伯格首度回应 Meta"算力过剩":没人会嫌算力太多,但租出去更赚钱

Meta CEO 扎克伯格首次正面回应公司筹划云基础设施业务一事,否认“算力过剩”猜测,称内部算力需求依然旺盛、满负荷运转。但他同时表示,当前市场对算力出价极高,将部分 AI 基础设施对外出租在财务上更划算。Meta 正制定代号“Meta Compute”的云计算计划,包括开放模型访问权限和直接出租裸算力两条路线。扎克伯格还提及 SpaceX 以每月 12.5 亿美元将数据中心租给 Anthropic 的模式。Meta 2026 年资本支出指引达 1250 亿至 1450 亿美元,计划 2026 年 9 月量产自研 AI 芯片,目标 2027 年部署算力提升至 14 吉瓦。

Meta行业动态部署/工程

推荐理由:扎克伯格首次确认 Meta 要做云业务,从‘自用’到‘出租’的转变很关键,这可能是 AI 基础设施从军备竞赛转向平台化的信号,做底层算力和云服务的团队有必要盯着。
12:01
公众号:龙猫LongCat(美团)精选
74
美团 LongCat-2.0 正式开源,同步开放国产卡推理代码

美团万亿参数大模型 LongCat-2.0 正式开源,总参数 1.6T,平均激活约 48B,专为真实 Agentic Coding 任务设计。模型引入 LongCat 稀疏注意力机制与 N-gram Embedding,提升长上下文处理效率与 Token 级表示能力。LongCat-2.0 是业界首个在五万卡国产算力集群上完成推理的万亿参数模型,从模型架构、芯片适配到部署策略进行深度协同优化,支持百万上下文高效推理。开源同步提供 BF16、FP8、INT8 等多精度版本及针对国产算力极致优化的推理代码。

GitHub开源生态推理模型发布

推荐理由:国产算力跑万亿模型的第一份完整开源答卷,代码、芯片适配细节全公开,做国产大模型落地的直接抄作业。
06:51
Hacker News 热门(buzzing.cc 中文翻译)精选
70
Show HN: 如何在我的低配置电脑上运行 GLM-5.2

colibrì v1.0 引擎以纯 C 实现、零运行时依赖,可在约 25 GB RAM 的消费级电脑上运行 744B 参数的 GLM-5.2 MoE 模型。模型经 int4 量化后磁盘占用约 370 GB,常驻内存仅 9.9 GB,通过流式加载磁盘专家实现推理。冷解码速度约

GitHub产品更新开源生态部署/工程
另有 1 家信源报道X:karminski (@karminski3)
推荐理由:这个单C文件项目让744B的MoE模型在25GB内存的笔记本上跑了起来,虽然慢,但证明了消费级硬件也能把前沿模型‘盘活’,做本地推理的极客值得看看。
06:00
TechCrunch:AI(RSS)精选
73
AI 能否回答 3 万亿美元的问题?

Sequoia 合伙人 David Cahn 更新 AI 基础设施支出估算:2026 年全球投入达 1.5 万亿美元,行业需产生 3 万亿美元收入才能回本。Anthropic 年化收入(ARR)达 600 亿美元,OpenAI 2025 年收入 130 亿美元(11 月称 ARR 200 亿美元),但缺口仍大。Apollo 首席经济学家指出,谷歌、Meta、微软、亚马逊均预测 2028 年自由现金流加速,但风险在于更多组织转向更便宜的开放权重模型(尤其中国模型),且 OpenAI 最新模型编码任务 token 效率提升 54%,导致 token 价格持续下降。若超大规模厂商现金流目标落空,可能引发经济衰退和标普 500 回调。

AnthropicOpenAI开源生态现象/趋势

推荐理由:Sequoia和Apollo的经济学家同时拉响警报,AI基建支出今年1.5万亿美元,需要3万亿收入才回本。这不是唱衰,是给产品人一个倒计时,开源模型和掉价的token让这账更难算。
05:44
OpenAI Developers@OpenAIDevs精选
68
将一个想法变成可发布和分享的实时网站 以下是OpenAI团队的一些成员用Sites构建的示例👇 @prd_008 用Sites将一个想法变成了个人专注应用:

pranav: ChatGPT Sites 现已面向 Plus、Pro、Business 和 Enterprise 用户开放。支持网页端、移动端和桌面端。 我利用新版 ChatGPT 中的 Sites 插件,将一个想法变成了一个个人待办事项应用。 以下是我...

OpenAI产品更新部署/工程
另有 1 家信源报道X:OpenAI Developers (@OpenAIDevs)
推荐理由:ChatGPT Sites 把建站门槛拉到一句话描述,我觉得这是 ChatGPT 从「聊完就忘」到「留下东西」的关键一步,但现阶段模板和分发都太简陋,产品人可以先尝鲜别急着押注。

7月9日

星期四 · 5 条
22:33
Mistral AI:News(网页)精选
55
Mistral 推出 Studio,为 AI 提示词和技能提供系统记录

Mistral 今日推出 Studio,为 AI 提示词和技能提供集中式系统记录。平台将 prompts 和 skills 视为生产资产,支持不可变版本、回滚、明确所有权、分类标签和审计日志,保证变更可追溯。非开发者可直接编辑测试,通过标签将变更推送至生产,保留原有 CI/CD 流程。可观测性让生产输出回溯到对应资产版本,形成闭环治理。现面向 Mistral Studio 客户开放。

MCP/工具产品更新部署/工程

推荐理由:企业提示词管理混乱是真实痛点,Studio 这次更新把治理和迭代闭环做进了生产系统,比单独的目录工具更进一步。
16:57
MarkTechPost(RSS)精选
70
NVIDIA 发布 Nemotron-Labs-3-Puzzle-75B-A9B:压缩混合 MoE 模型,服务器吞吐量提升 2.03 倍

NVIDIA 发布 Nemotron-3-Super 的压缩变体 Nemotron-Labs-3-Puzzle-75B-A9B,总参数从 120.7B 降至 75.3B,活跃参数从 12.8B 降至 9.3B,保持 88 块混合布局(40 Mamba、40 MoE、8 注意力)。在 8×B200 节点上,8K/64K 场景匹配用户吞吐量≥100 tok/s 时,服务器吞吐量提升 2.03 倍。单 H100 上 1M-token 并发从 1 增至 8,权重占用从 70 GB 降至 44.5 GB。迭代式 Puzzle 方法平均得分比单步高 0.57。代价:Arena-Hard-V2 降 4.2 分、SWE-Bench 降 2.6 分。Hugging Face 提供 BF16、FP8、NVFP4 检查点。

模型发布部署/工程
另有 1 家信源报道MarkTechPost(RSS)
推荐理由:把120B MoE压到75B后,同节点服务吞吐几乎翻倍,单张H100百万token并发从1涨到8。对长上下文RAG和AI编码助手这类对吞吐敏感的产品来说,这不是论文调优,是实打实的降本方案。
07:38
Tomer Tunguz 博客(VC 分析)精选
57
AI预检检查:智能体工作记忆架构

一种为AI智能体设计的预检工作记忆架构:查询到来时,系统从磁盘上约90个索引化的技能库中检索最相关技能,仅加载到上下文窗口。本地开源模型Ornith 35B(350亿参数,通过Ollama在Apple Silicon上运行)执行任务,约80%常规任务由本地模型完成,困难任务路由至前沿模型。看门狗记录每次预检决策和技能调用,夜间通过异步推理处理全天轨迹,自动决定哪些技能需新增或固化(如日历排期转为确定性Rust代码),实现自我改进循环。昨天,看门狗首次未提出任何改进建议,系统或接近性能平台期。

智能体大佬观点部署/工程

推荐理由:Tunguz 把代理的记忆问题拆成预检+看门狗,不是大模型调参,而是软件架构层的优化,做 agent 的开发者可以直接偷师。
04:38
OpenAI:官网动态(RSS · 排除企业/客户案例)精选
58
OpenAI发布政府与国家安全合作伙伴关系方针

OpenAI近日公布国家安全原则,阐明在政府及国家安全领域部署前沿AI系统的方针。原则强调在保护公民、防御关键基础设施、提供公共服务及应对新兴威胁(网络防御和生物安全)中发挥AI优势,同时确保民主问责、人类判断和法治。过去一个月,OpenAI通过Daybreak网络防御计划与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟ENISA等机构建立网络安全信任访问合作,并与英国政府开展网络安全测试评估。上月,OpenAI向部分美国政府及盟友合作伙伴开放GPT‑Rosalind模型用于公共卫生和生物防御。原则适用于现有及未来合作,包括与Department of War的协议,明确禁止大规模国内监控、自主武器系统及高风险自动化决策。OpenAI支持立法对高风险军事用途(如国内监控、自主武器)建立保障措施。

OpenAI安全/对齐行业动态部署/工程

推荐理由:OpenAI 首次公开发布国家安全合作原则,同时宣布与多国建立网络和生物防御伙伴关系。我觉得这是头部 AI 公司在军事合作上的一次主动透明化尝试,值得看看他们如何设限。
00:21
Hugging Face:Blog(RSS)精选
66
原生速度的 vLLM transformers 建模后端

Hugging Face 宣布 transformers vLLM 后端现与手写原生 vLLM 实现速度相当甚至更快。模型作者无需移植代码,即可自动利用 transformers 获得超快推理。测试使用 Qwen3-4B(单 GPU)、Qwen3-32B(张量并行)和 Qwen3-235B-A22B-FP8 MoE(数据+专家并行)三种配置,吞吐量均达到或超过原生。该后端通过 torch.fx 静态分析图、AST 重写代码实现动态层融合,支持张量/管道/专家并行及 torch.compile。用户仅需添加 --model-impl transformers 标志。目前不支持线性注意力模型但即将支持。

Hugging Face产品更新推理部署/工程

推荐理由:用 transformers 写的模型,现在不用改一行代码就能在 vLLM 里跑到手写实现的水平,模型作者最大的集成痛被抹平了。虽然主要是工程黑魔法,但生态意义不小。

7月8日

星期三 · 3 条
14:05
小互@xiaohu精选
79
工信部发布Claude Code后门安全风险提示

中国工信部发布风险提示,指出 Claude Code 2.1.91 至 2.1.196 版本内置监控机制,未经用户同意即向远程服务器回传用户地域、身份标识等敏感信息。建议相关单位立即全面排查,对受影响版本卸载或升级至已清除后门代码的最新安全版本,并加强开发工具外联权限管控与流量监测,防止敏感数据违规外传。

Anthropic安全/对齐编码部署/工程

推荐理由:工信部这份公告不是泛泛的安全提醒,而是直接点名Claude Code特定版本内置数据回传,这对所有中国开发者团队都是一个立即行动的命令,Claude Code在中国的信任危机开始了。
03:18
Hugging Face:Blog(RSS)精选
67
Hugging Face Storage 成为 SkyPilot 一级后端:零出站费跨云存储

Hugging Face Storage 现为 SkyPilot 的一级后端。用户通过 hf:// URL 和现有 HFTOKEN 即可将 Hugging Face Bucket(读写)或模型/数据集/Space 仓库(只读)挂载到 SkyPilot 任务中,支持 MOUNT(FUSE 懒加载)或 COPY 模式。SkyPilot 可将任务调度到 20+ 云、Kubernetes、Slurm 及本地集群的任意可用 GPU 上。Hugging Face 不收取出站及 CDN 费用,故跨云读取数据无额外成本。存储价格 $12–18/TB/月,低于 AWS S3 加出站费。Bucket 基于 Xet,增量检查点和模型变体仅存储和传输改动部分。

Hugging Face产品更新开源生态部署/工程

推荐理由:Hugging Face 和 SkyPilot 把存储和算力真正解耦了,跨云读取模型零出口费,用过 SkyPilot 的团队可以立刻省下那块 egress 账单。
01:38
Tomer Tunguz 博客(VC 分析)精选
77
FDE爆发:AI公司12个月承诺97.5亿美元部署工程

AI公司在12个月内合计承诺97.5亿美元用于建设前部署工程(FDE)团队。三种结构模型浮现:资产负债模型(微软、亚马逊从现有编制调配,Salesforce承诺1000个FDE岗位);独立实体模型(OpenAI Deployment Company融资40亿美元,投后估值140亿;Anthropic从黑石等融资15亿美元);合作伙伴生态系统模型(Google Cloud承诺7.5亿美元合作伙伴基金)。瓶颈从模型能力转向部署——GPT-4、Claude、Gemini已足够强大,但多数企业无法自行安装配置。FDE投资构成护城河:嵌入式工程师教育客户、获取专有工作流与数据反馈模型调优,切换成本为制度性而非技术性。

AnthropicOpenAI现象/趋势部署/工程

推荐理由:Tunguz 把近 100 亿美元 FDE 投资掰成三种结构,让我意识到 AI 竞争已经从模型卷到了客户内部——嵌入式工程可能比 API 更深的护城河。

7月7日

星期二 · 3 条
17:20
TechCrunch:AI(RSS)精选
70
美国首批自主地面车辆在乌克兰参战

美国自动驾驶车辆公司 Forterra 宣布,过去九个月已向乌克兰战场部署超过 100 辆基于 Polaris ATV 的 Lancer 自主地面车辆。这些汽油动力车辆可携带 750 公斤货物,加装 Starlink 天线实现远程操控,已执行 1100 多次任务,行驶 2500 英里,运送 777,440 磅物资,完成 52 次伤员撤离。目前车辆主要采用远程操作,因自主系统尚无法实时识别并应对敌方威胁。Forterra 已融资超 5 亿美元,正将经典机器人方法与生成式 AI 结合以提升自主能力。美军专家认为地面自主技术已具实战价值。

具身智能行业动态部署/工程

推荐理由:这是首次有美国自主地面车辆在实战中长期部署的详细报道,做军事 AI 的人可以认真读,但对多数从业者来说只是猎奇。
12:19
蚂蚁 inclusionAI:GitHub 新仓库精选
72
蚂蚁 inclusionAI 开源多智能体协作基础设施 Avernet V0.1

蚂蚁 inclusionAI 开源的多智能体协作基础设施 Avernet V0.1 正式发布。该项目聚焦 Agent 注册、发现、邀请等协作层问题,不替代 Agent 自身推理能力。通过群组、会话和共享上下文构建多方共识,支持自由聊天、领导-跟随等协作模式,并利用协作反馈形成观察、评估到复用、优化的自动进化闭环。支持 OpenClaw、自定义 Agent、第三方 Agent 引擎及现有 bot 平台等异构生态,提供 Docker 与本地两种快速部署路径。

智能体开源/仓库部署/工程

推荐理由:蚂蚁开源的Avernet把多agent协作的发现、连接、共识和可追踪执行做成基础设施,做agent应用的团队可以拿来即用,虽早期但方向对。
01:11
LMSYS:Blog(Chatbot Arena 团队)精选
63
SGLang 集成 DSpark 推测解码:置信度驱动的可变长度验证

SGLang 团队将 DSpark 推测解码算法集成到开源推理引擎中。该算法采用半自回归块起草器一次生成一组 token,并利用置信度头与顺序温度缩放(STS)为每个请求动态分配可变验证长度,从而在高负载下裁剪无效验证成本。SGLang 支持密集模型(如 Qwen3)和稀疏模型(如 DeepSeek-V4),通过全 CUDA 图处理不规则的每请求验证长度。提供三种验证模式:static(全长)、compact(生产路径)和 cap-accept(接受上限测量)。还引入了零开销调度、基于离线成本表的在线调度器、融合 Triton 核等优化。在 H200 上使用 DeepSeek-V4-Flash 的测试中,DSpark 在整个并发扫描范围内比 MTP 和非推测基线实现了更优的吞吐量-延迟权衡。

产品更新推理部署/工程

推荐理由:DSpark 这版推测解码的工程落地比论文本身更有看头——SGLang 用 ragged CUDA Graph 和动态调度把 trimm 掉的计算按字节级回收,383 tok/s 的单请求速度对部署方是即时可用的性能增益。

7月6日

星期一 · 2 条
05:16
SemiAnalysis@SemiAnalysis_精选
76
重大延迟:Jensen 在 GTC 上展示 Kyber NVL144 仅 3 个月后,该项目遭遇重大挫折,已推迟超过 12 个月,延至 2028 年。下文我们将解释 Kyber 为何面临大幅延迟,以及 NVIDIA 的 NVL72x2 背靠背机架架构为何也被取消,导致 Rubin Ultra 的扩展域受限。👇️ 1/6🧵
行业动态部署/工程

推荐理由:NVIDIA的Kyber NVL144延迟12个月,Rubin Ultra的scale-up架构也被砍,这对2027-2028年AI算力供给是重大打击,云厂商和模型训练团队都得重新做规划。
02:23
Rohan Paul@rohanpaul_ai精选
84
"我们正在建设这个 Prometheus 集群,首个千兆瓦以上的单一集群……我们是在谈论数千亿美元的资本投入。" Mark Zuckerberg 表示,他的职责就是集中精英人才、资本和基础设施。
Meta行业动态部署/工程

推荐理由:扎克伯格亲口确认千兆瓦级 AI 集群计划,数百亿美元砸向基础设施,我觉得这是算力军备竞赛的又一个关键节点,所有靠云算力的团队都得关注。

7月5日

星期日 · 1 条
02:23
AYi@AYi_AInotes精选
77
SpaceX与Anthropic每月12.5亿美元算力合同:算力成新基本盘

修订版IPO文件披露,SpaceX与Anthropic签订每月12.5亿美元算力合同,持续至2029年5月,双方可提前90天通知终止,另有6个月后可终止条款。分析认为,这非普通云服务——SpaceX已将算力作为下一个基本盘,既对外供应算力扩营收,又能保障自身AI及X业务。SpaceX总裁Shotwell表示,公司视失败为数据金矿,不接受完美发射;上市后面临季度财报,其时间维度不同于常规投资者,买SpaceX不是买下一个季度。

AYi: 我终于明白为什么 SpaceX 能越跑越快, 别人把失败当事故,他们把失败当数据金矿。 SpaceX 总裁 Shotwell 分享了SpaceX的投资逻辑, 以及SpaceX 是怎么对待失败、怎么跟投资人谈预期的? Shotwell有一句话...

Anthropic行业动态部署/工程

推荐理由:SpaceX 一份每月 12.5 亿美元的算力合同浮出水面,关键不是金额而是条款——SpaceX 可随时收回算力自用。航天公司成了核心玩家,算力竞争的门槛和格局都被拉高了。

7月4日

星期六 · 1 条
08:00
Lilian Weng:Lil'Log(RSS)精选
57
Harness Engineering for Self-Improvement:AI装备层设计模式与自改进

Lilian Weng 近日系统探讨了 AI 的“装备层”(Harness)——位于基础模型与现实世界之间的系统层,负责编排执行、控制模型思考与规划。文章归纳三种核心设计模式:1)工作流自动化,采用“计划-执行-观察-改进”循环;2)将文件系统作为持久化内存,解决长程任务上下文窗口与状态持久化问题;3)子智能体与后台任务,实现并行执行与隔离管理。案例聚焦于 Claude Code、Codex 等编程智能体的装备层设计。未来方向包括上下文工程、工作流优化以及通过进化搜索联合优化模型权重。

智能体教程/实践部署/工程

推荐理由:Lilian Weng 这篇综述把 agent 自改进的脉络从 harness 设计一路拉到进化搜索,近期关键研究基本都串起来了,做 coding agent 和自动研究的同行建议通读。

7月3日

星期五 · 6 条
18:00
公众号:面壁智能(MiniCPM)精选
65
面壁智能发布AI全自动预训练框架ForgeTrain,8小时追平Megatron-LM

面壁智能发布全球首个完全由AI编写、无人类干预的生产级大模型预训练框架ForgeTrain。该框架针对特定模型和硬件从零自动“锻造”专用训练代码。基准测试显示,ForgeTrain在8小时内追平Megatron-LM,1.5至2天内实现稳定反超,模型FLOPS利用率提升约8%~10%,且可迁移至不同模型(MiniCPM4-0.5B/8B)和硬件(H100及昇腾NPU)。其采用四阶段Harness优化流程,全程自动判定。面壁智能将其工程思想概括为Forge Engineering。

产品更新开源生态部署/工程

推荐理由:这是AI编写生产级训练框架的首个实证,8小时追平Megatron-LM并反超,证明AI打穿Infra的范式已到临界点,做训练框架和Infra的都该看看。
10:34
HuggingFace Daily Papers(社区热门论文)精选
74
Program-as-Weights:一种面向模糊函数的编程范式

Program-as-Weights (PAW) 提出模糊函数编程范式,将自然语言描述的函数编译为紧凑、可本地执行的神经制品。PAW 使用在 10M 示例数据集 FuzzyBench 上训练的 4B 编译器,为冻结的轻量级解释器输出参数高效适配器。0.6B 的 Qwen3 解释器执行 PAW 程序性能匹敌直接提示 Qwen3-32B,推理内存仅约五十分之一,在 MacBook M3 上达 30 tokens/s。该方法将基础模型从每次输入的求解器重新定义为工具构建器,一次函数定义后生成的制品可离线廉价复用。

推理数据/训练论文/研究部署/工程

推荐理由:这篇论文把模糊任务从调用大模型API变成了本地轻量函数,0.6B就能跑赢32B,省掉几十倍成本。对需要处理日志、JSON修复等经常性模糊任务的开发者是个真信号。
05:08
MarkTechPost(RSS)精选
70
阿里巴巴发布 Page Agent:开源 JavaScript 库实现网页 DOM 自然语言操控

阿里巴巴发布 Page Agent,一个开源的 JavaScript 客户端库,嵌入网页后可通过自然语言指令直接操作 DOM 元素。与 Playwright、Puppeteer 等外部浏览器自动化工具不同,Page Agent 不依赖截图或多模态模型,而是将实时 DOM 脱水压缩为 FlatDomTree 文本映射,让纯文本模型精准执行点击、表单填写等操作。它继承用户 cookies 和会话,无需独立后端,并支持任意 OpenAI 兼容端点的模型(示例使用 qwen3.5-plus)。项目采用 MIT 许可证,适合在自有应用内构建 AI 副驾、智能表单填充或无障碍控制等场景,但限于单页面范围,风险操作仍需服务端验证。

智能体开源/仓库部署/工程

推荐理由:Page Agent 把浏览器自动化从外部驱动变成页面内 JS,读 DOM 而非截图,让 SaaS 内的 AI 助手成本更低、更精准,适合自己产品内嵌 copilot 的团队。
03:45
The Decoder:AI News(RSS)精选
78
Microsoft 成立"Frontier Company",斥资 25 亿美元派驻 6000 名 AI 工程师到企业客户现场

Microsoft 新设业务部门“Frontier Company”,拨款 25 亿美元,将 6000 名行业与工程专家派驻企业客户现场,“共同设计、共同创新、部署并持续改进 AI 系统”。该部门由 Rodrigo Kede Lima 领导,旨在超越“前部署工程”模式,成为“最大、以结果为导向的工程组织”。Microsoft 将自己定位为 OpenAI 和 Anthropic 的“平台中立”替代方案,后两者也已设立专门部署公司。Microsoft 将借助埃森哲、凯捷、安永等系统集成商扩大覆盖范围。

AnthropicMicrosoftOpenAI行业动态

推荐理由:微软砸 25 亿美元成立 Frontier Company,把 6000 名工程师直接塞进企业客户现场,正面应战 OpenAI 和 Anthropic 的部署子公司。这一手既是补齐落地能力也是巩固生态,对 CIO 来说是选择多了,但对 AI 行业意味着部署军备竞赛正式开打。
02:37
LMSYS:Blog(Chatbot Arena 团队)精选
59
Agent辅助的SGLang开发:初步探索

SGLang团队将LLM服务、分布式运行时、GPU内核、扩散管道等工作流编码为可执行的SKILL.md文件、脚本、基准合约和审查循环。现有技能包括:SGLang .claude/skills(CUDA调试、内核集成、性能分析等)、SGLang diffusion .claude/skills(扩散模型添加与调优)、BBuf/AI-Infra-Auto-Driven-SKILLS(跨框架SOTA循环)、KDA(MLSys 2026 FlashInfer内核竞赛获胜方案)以及BBuf/KDA-Pilot(已合并三个SGLang集成PR)。Profile证据是性能工作的核心,长期优化转向Loop Engineering——SGLang SOTA Performance Loop将追求SOTA分解为公平基准测试、差距决策、性能分析、补丁和再验证,Humanize/RLCR添加外部审查,Codex Goal以更低协调开销运行相同循环。评审重要性提升,开发者需定义问题、选择证据、设计工作流并判断结果是否可用于生产。

推理教程/实践部署/工程

推荐理由:这不是一篇普通的开发经验总结,而是 SGLang 团队把调试、基准测试和性能调优等重复劳动变成可执行 agent 技能的实操手册,对于做推理框架和复杂工程的人非常值得一看。
02:03
Claude:Blog(网页)精选
61
Claude Enterprise 新增用量与成本分析及支出管控功能

Claude Enterprise 推出更丰富的管理分析工具和成本控制功能。仪表板现可按群组和用户分析用量与成本,支持按 SCIM 群组筛选,展示制品创建、文件编辑、技能和连接器对应的成本。Claude Code 管理控制台新增“使用量”和“价值”选项卡,分别显示活跃开发者、会话次数、常用命令,以及生产力提升估算、每次提交成本和年度价值估算。分析聊天支持自然语言查询并返回可导出图表。Analytics API 可将数据接入 Datadog Cloud Cost Management 和 CloudZero。管理员可设置模型默认和权限控制,并配置组织级支出限额的 75%、90% 告警通知;用户在 75% 和 95% 时收到应用内提醒。Admin API 支持自动审批额度增加、标记接近限额用户及快速变化的用量。

Anthropic产品更新部署/工程

推荐理由:企业版管理员终于有了按群组和用户的成本明细、模型权限和花费警告。我觉得规模化部署 Claude 的团队会很看重这些,尤其能把 Claude Code 的价值量化成 ROI,财务团队可以直接拉进现有系统,不是一次性噱头。

7月2日

星期四 · 2 条
23:06
IT之家(RSS)精选
74
花旗、Adobe等企业限制员工使用AI旗舰模型以控制成本

据404 Media获取的内部资料,Atlassian、Adobe、亚马逊等六家企业正限制员工使用AI工具,要求改用能力较低的大模型避免成本失控。至少一家企业月度AI开销增至三倍,超1500万美元。花旗银行因GitHub改为按量计费,于6月24日禁用Claude Opus 4.6、4.7及GPT-5.5等旗舰模型。Adobe于6月30日终止Claude无限制使用协议。Atlassian数据显示其AI月支出从500万美元飙升至1500万美元,本财年预计超1.2亿美元。GitHub计划改用开源模型并测试单人按量计费模式。

AnthropicOpenAI现象/趋势部署/工程

推荐理由:这是第一份详细揭露大公司AI成本失控的内部报告,花旗直接禁用GPT-5.5和Claude 4.7,把「按需匹配模型」写进全员邮件,对所有在铺AI的企业都是一记现实的耳光。
19:39
Ars Technica:AI(RSS)精选
70
谷歌AI建设导致2025年用电量增长37%

2025年,谷歌年度用电量同比上涨37%,创历史最大增幅。数据中心全年消耗超4200万兆瓦时,超过新西兰、丹麦、尼日利亚等国总用电量。自2019年以来,谷歌总用电量已增长超250%。用电激增主要来自Google Cloud、YouTube视频流及支撑AI产品和服务的数据中心建设与运营。公司表示,AI基础设施建设速度超过电网脱碳速度,但仍致力于扩大全球清洁电力规模,并通过技术创新降低运营排放。2024年谷歌用电量增幅为27%。

Google行业动态部署/工程

推荐理由:谷歌2025年电力消耗暴增37%创历史纪录,清洁能源购买未能完全掩盖新建天然气电厂的排放,AI扩张的环境代价正加速兑现。