Topic · 主题全部主题 →

多模态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

3,704条收录
405条精选

精选归档 · 第 5 页

81100 条 · 共 405

7月17日

星期五 · 5 条
08:00
HuggingFace Daily Papers(社区热门论文)精选
AI 评分 73/100
NVIDIA 发布 Audio-Visual Flamingo:面向长视频的开放音频-视觉大语言模型

NVIDIA 推出 Nemotron-Labs-Audio-Visual Flamingo(AV-Flamingo),一个完全开源的音频-视觉大语言模型,专为理解和推理长视频中的音频、图像与复杂场景设计。


推荐理由:NVIDIA 这次把音频和视觉在长视频上的联合推理做成了全开源模型,AV-Skills 数据集和 TAVIT 推理框架是亮点,做视频理解的开发者可以直接拉下来用。
07:44
IT之家(RSS)精选
AI 评分 79/100
Kimi 最强模型 K3 发布,Frontend Code Arena 跑分登顶

月之暗面推出迄今最强模型 Kimi K3,拥有 2.8 万亿参数和 100 万 Tokens 上下文窗口。该模型在 Frontend Code Arena 中以 1679 分超越 Claude Fable 5 位居第一,在 7 个前端领域中的 6 个排名 #1。API 定价为每 100 万 Tokens 输入 2 元(缓存命中)或 20 元(缓存未命中),输出 100 元。


推荐理由:Kimi K3 的 2.8T 参数和 100 万上下文不是数字游戏,前端跑分实打实地压过 Claude Fable 5,七个子领域拿六个第一,这对做前端和长文档处理的人是个明确信号,可以下场试了。
07:40
公众号:数字生命卡兹克精选
AI 评分 75/100
Kimi 正式发布 2.8 万亿参数大模型 K3,将于 7 月 27 日全面开源

月之暗面发布 Kimi K3,参数量达 2.8 万亿,支持百万上下文,将于 7 月 27 日全面开源。该模型在 AA 智能分数中排名第三,并在 BrowseComp、Automation Bench 和 SpreadsheetBench 2 三项 Agent 评测中取得第一。


推荐理由:国内首个 3 万亿参数开源模型,卡兹克的深度实测表明它在 Agent 和前端审美上表现惊艳,整体能力已能与 GPT-5.6 Sol 掰手腕,虽然推理成本可能不低,但值得开发者尽快体验。
03:11
Moonshot AI:Kimi Blog精选
AI 评分 70/100
Moonshot AI 发布 PerceptionBench:多模态模型视觉感知能力诊断基准

Moonshot AI 发布 PerceptionBench,一个从 40 多个现有基准中模型实际失败案例归纳出的视觉感知基准,包含 10 项原子感知能力和 3000 道验证题。所有测试模型准确率均未超过 60%,且大量正确答案在重复提问时无法复现,表明模型更多是猜测而非真正感知。PerceptionBench 旨在精确诊断多模态 AI 的视觉感知断裂点,推动其实现忠实、一致的视觉理解。


推荐理由:这是一个把视觉感知拆成原子能力的基准,所有模型不及格,而且猜测多于感知的发现很扎心,做多模态的团队应该拿来测一下自家模型。
03:11
Moonshot AI:Kimi Blog精选
AI 评分 81/100
Kimi K3 发布:2.8T 参数开源模型,具备原生视觉与百万 token 上下文窗口

月之暗面发布 Kimi K3,一个 2.8T 参数的开源模型,采用 Kimi Delta Attention 和 Attention Residuals 架构,支持原生视觉能力与 100 万 token 上下文窗口。


推荐理由:首个开源 3T 级模型,架构上有 KDA 和 AttnRes 创新,在超长程编码和知识工作上比肩闭源。权重两周后放出,所有做 agent 的都该盯紧。

7月16日

星期四 · 3 条
15:43
IT之家(RSS)精选
AI 评分 73/100
前 OpenAI CTO 穆拉蒂创立的 Thinking Machines Lab 发布 Inkling 多模态模型,975B 参数开源

前 OpenAI 首席技术官米拉·穆拉蒂创立的思维机器实验室(Thinking Machines Lab)推出首个从零训练的多模态模型 Inkling,采用 MoE 架构,总参数 975B、激活参数 41B,最长上下文 1M tokens,已在 Hugging Face 和自有 API Thinker 开放权重。


推荐理由:Mira Murati 从零打造的 Inkling 在多模态上打出了美国开源最强表现,但对比 GLM、DeepSeek 等中国开源,推理和编码差距不小,美国开源想靠它翻身还差一口气。
10:00
公众号:昆仑万维(天工)精选
AI 评分 66/100
天工短剧工作台推出"Agent智能分镜+无限画布"双轨创作模式,告别AI短剧"随机抽卡"

天工短剧工作台(SkyProduction)推出“Agent智能分镜+无限画布”双轨创作模式,将导演思维拆解为六个可干预环节,通过站位图锁定和多视细节图生成解决角色漂移、变脸问题。该工作台支持720°全景图、3D导演台、多账号分级管理及数据中心,并原生支持英文短剧全流程处理。其三部精品短剧上线DramaWave仅7天,均实现百万美元级营收。


推荐理由:天工短剧工作台把导演思维拆解成可干预的站位、光影和调度环节,降低了从单镜头到连续叙事的落差,适合需要稳定产出精品短剧的团队。

7月15日

星期三 · 4 条
16:41
IT之家(RSS)精选
AI 评分 82/100
国行 Apple 智能完成备案,阿里千问将集成至苹果 AI 能力

苹果技术开发(上海)有限公司的“Apple 智能”大模型已于 2026 年 7 月 8 日完成备案,适用场景为苹果手机。阿里千问将作为 AI 能力集成至 Apple 智能,为 iOS、iPadOS、macOS 和 visionOS 的中国用户提供文本与图像理解、内容生成等功能,用户无需在应用间切换即可直接体验。


推荐理由:苹果AI备案落地,国行iPhone用户终于等到,但集成的不是自研而是阿里千问,对苹果AI生态和国内AI格局都算一个交代。
10:40
公众号:通义实验室(千问)精选
AI 评分 73/100
阿里发布 Qwen-Audio-3.0-Realtime,在 Artificial Analysis 语音推理子项中综合排名第一

阿里通义实验室发布实时语音交互模型 Qwen-Audio-3.0-Realtime,在 Artificial Analysis 的 Speech Reasoning 子项中综合排名第一,超越 OpenAI GPT-Realtime-2。


推荐理由:我觉得Qwen-Audio-3.0-Realtime把情感表达和背景降噪结合得很好,加上工具调用,语音交互终于从聊天走向任务执行,有API可以直接上手,推荐语音产品经理试试。
03:55
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 76/100
Bonsai 27B:首款可在手机上运行的27B级多模态模型

Bonsai 27B 基于 Qwen3.6 27B,提供三元(1.71 有效比特/权重,5.9 GB)和 1-bit(1.125 有效比特/权重,3.9 GB)两个变体,后者首次将 27B 级模型装入 iPhone 17 Pro。模型支持多步推理、结构化工具调用、视觉任务和计算机使用智能体循环,拥有 262K token 上下文窗口,支持推测解码加速。在 15 项基准测试中,三元变体保留全精度基线 95% 的性能,1-bit 变体保留 90%,数学和编码能力几乎无损。采用 Apache 2.0 许可证开源。


推荐理由:1-bit 量化把 27B 模型压到 4GB,首次能在 iPhone 上跑,agent 循环零边际成本,做端侧产品的该坐不住了。
00:51
Google Developers Blog(RSS)精选
AI 评分 58/100
Google 在 I/O Connect India 展示由 Tensor SoC 和 TPU 驱动的 Pixel 10 端侧 AI 未来

在 Google I/O Connect India 上,Google 展示了由定制 Tensor SoC 和 TPU 驱动的 Pixel 10 系列所支持的 100% 私有端侧 AI 未来。活动首次推出轻量级 Gemma 4 E2B 模型,该模型原生运行于设备端,可实现完全离线的多模态功能,包括 AI 聊天、实时图像识别和个人智能体任务。开发者即日起可通过新发布的 Tensor SDK beta 及其配套开源资源,开始构建这些安全的边缘应用。


推荐理由:我觉得这是端侧 AI 从实验到落地的信号,Gemma 4 E2B 的离线能力搭配新 SDK,让完全本地的多模态应用不再是期货,做移动隐私 AI 的开发者该上手试试了。

7月14日

星期二 · 4 条
23:23
HuggingFace Daily Papers(社区热门论文)精选
AI 评分 76/100
小米发布Xiaomi-Robotics-U0:380亿参数多模态自回归模型统一具身合成

小米推出Xiaomi-Robotics-U0,一个380亿参数的多模态自回归模型,用于统一具身合成。该模型将具身生成视为基础图像与视频生成的延伸,联合优化文生图、图像编辑、具身场景生成、具身迁移及具身视频生成。它是首个支持跨多种机器人形态的高质量多视角场景生成模型,并引入结构化可控具身迁移。该模型在单步与序列生成任务上达到SOTA,在具身场景生成与迁移的人类评估中超越GPT-Image-2.0,在World Arena具身视频生成排名第一,并将pi_0.5在真实世界操控任务上的分布外成功率从36.9%提升至63.2%。代码与检查点已开源。


推荐理由:小米这个 38B 的统一具身生成模型,把图像、编辑、场景生成等全塞进一个框架,并在真实机器人操作任务上把 pi_0.5 的成功率从 36.9% 拉到 63.2%,做具身智能的值得认真看。
16:36
IT之家(RSS)精选
AI 评分 72/100
高德发布通用世界模型工坊 ABot-WorldStudio,已开放测试

阿里巴巴旗下高德发布通用世界模型工坊 ABot-WorldStudio,并开放测试。该产品将交互式视频生成与 3DGS 场景生成统一,用户输入文字或图片即可生成可实时交互、可分享的 AI 世界。工坊内置“时空任意门”,穿越后可跃迁至另一完整 3D 世界。官方实测单次连续推理稳定运行超1小时,无崩溃、无质量衰减。底层模型 ABot-World0 与 ABot-3DWorld0 均可在单张 5090 上本地部署,已全面开源。


推荐理由:把世界模型从一分钟短片推进到小时级稳定探索,还支持本地一张消费级显卡跑,这对做具身智能和边界探索的团队是个值得上手的信号。
09:05
SenseTime@SenseTime_AI精选
AI 评分 74/100
商汤开源 SenseNova-Vision-7B-MoT 多任务视觉模型𝗦𝗲𝗻𝘀𝗲𝗡𝗼𝘃𝗮-𝗩𝗶𝘀𝗶𝗼𝗻-7𝗕-𝗠𝗼𝗧, 𝗳𝘂𝗹𝗹𝘆 𝗼𝗽𝗲𝗻-𝘀𝗼𝘂𝗿𝗰𝗲𝗱: 𝗼𝗻𝗲 𝗺𝗼𝗱𝗲𝗹, 𝗲𝘃𝗲𝗿𝘆 𝗺𝗮𝗷𝗼𝗿 𝘃𝗶𝘀𝗶𝗼𝗻 𝘁𝗮𝘀𝗸 𝗯𝗲𝗹𝗼𝘄: 🔹𝗗𝗲𝘁𝗲𝗰𝘁𝗶𝗼𝗻/𝗢𝗖𝗥/𝗚𝗨𝗜 🔹𝗗𝗲𝗽𝘁𝗵 & 𝗻𝗼𝗿𝗺𝗮𝗹 🔹𝗦𝗲𝗴𝗺𝗲𝗻𝘁𝗮𝘁𝗶𝗼𝗻 🔹𝗠𝘂𝗹𝘁𝗶-𝘃𝗶𝗲𝘄It can also define new vision-task variants through natural language — recombining visual capabilities across traditional task boundaries.Open-sourced: model weights + the SenseNova-Vision Corpus (50M-example subset, plus full toolkit to reproduce the remaining public-source data) for research & development🤗 HF: https://huggingface.co/sensenova/SenseNova-Vision-7B-MoT 🔧GitHub: https://github.com/OpenSenseNova/SenseNova-Vision 💻 Try the demo: https://huggingface.co/spaces/sensenova/SenseNova-Vision 📋Technical Report: https://arxiv.org/abs/2607.06560 👾Discord: http://discord.gg/BuTXPHmQub商汤发布并完全开源 SenseNova-Vision-7B-MoT,一个统一处理检测、OCR、GUI、深度与法线估计、分割、多视图等主要视觉任务的模型。该模型支持通过自然语言定义新的视觉任务变体,跨传统任务边界重组视觉能力。开源内容包括模型权重及 SenseNova-Vision Corpus(含 5000 万示例子集及复现剩余公开数据的完整工具包)。
另有 1 家信源报道X:商汤 SenseTime (@SenseTime_AI)
推荐理由:商汤把检测、OCR、深度估计等多个视觉任务塞进一个7B模型,还贴心地开源了数据集和复现工具,做视觉理解或GUI agents的团队可以直接拿它当基座,不是又一个刷榜的轻量版。
08:00
HuggingFace Daily Papers(社区热门论文)精选
AI 评分 74/100
Boogu-Image-0.1 发布:开源统一多模态理解与生成模型,训练成本仅约 40 万美元

Boogu-Image-0.1 系列开源统一多模态理解与生成模型发布,包含 Base、Turbo、Edit 和 Edit-Turbo 四个变体,支持高质量文生图、快速推理、指令编辑及中英双语文本渲染。


推荐理由:开源多模态模型终于有一个能打闭源系统的了,40万美元训练成本刷到接近GPT-Image-2的水平,想自己部署图像生成和编辑产品的开发者可以认真看看。

7月13日

星期一 · 2 条
19:20
公众号:腾讯混元精选
AI 评分 76/100
腾讯混元发布 HyOCR-1.5:端到端 OCR 大模型全栈开源,推理提速 6.37 倍

腾讯混元发布 HyOCR-1.5,这是端到端 OCR 大模型领域首个将训练、推理、模型权重完整开源的专家模型。仅 1B 参数,覆盖 8 种以上 text-centric 任务。引入 DFlash 投机解码框架,在 Transformers 下实现 6.37× 加速,vLLM 下 2.14× 加速,端到端推理达每页 1.408s。支持 4K 分辨率与 128K 上下文窗口,通过 Agentic Data Flow 扩展低资源 OCR(331 种语言)、古文字识别与多图问答能力。在 OmniDocBench v1.6 上以 94.74 分居端到端第一。


推荐理由:我觉得这是近期最实在的OCR开源,1B参数覆盖多任务、推理加速6倍,还支持llama.cpp本地部署,做文档解析的同学可以直接上车。
19:13
公众号:腾讯混元精选
AI 评分 78/100
腾讯混元开源 HyOCR-1.5:1B 端到端 OCR 大模型推理提速 6.37 倍

腾讯混元开源端到端 OCR 大模型 HyOCR-1.5,仅 1B 参数覆盖 8 种以上 text-centric 任务,在 OmniDocBench v1.6 上以 94.74 分居端到端第一。


推荐理由:轻量端到端OCR的实用化一步,投机解码让长文档生成加速可落地,智能体数据闭环提示了用短板驱动自进化的可复用路径。

7月12日

星期日 · 1 条
00:53
Hacker News 热门(buzzing.cc 中文翻译)精选
AI 评分 75/100
Ghost Font:一种人类能读懂但AI无法识别的反AI字体

Ghost Font 是一种利用运动、视频、噪点和诱饵来隐藏文字的反AI字体。用户输入文字后可生成并下载视频片段,视频中的字母由与背景完全相同的点组成,单帧截图无法显示任何信息。该字体生成的视频被传递给Claude Fable和GPT Sol 5.6 Ultra等前沿模型时,这些模型即使具备编程能力也无法解码移动信息,直到被提示具体技术。视频中还包含一条诱饵信息,使模型误以为找到真实内容。项目灵感来自2013年Sang Mun设计的ZXX字体,但现代AI已能轻松读取ZXX。Ghost Font目前为本地原型,数据不发送至任何服务器。作者计划未来将视频生成代码开源,并探索将其用于CAPTCHA系统或AI视觉感知基准测试。


推荐理由:这个项目用视频中运动的光点传递文字,还加了假消息陷阱,让顶级视觉模型集体失败。对抗AI感知的探索很少这么直观,做CAPTCHA和对抗样本的值得看。

7月11日

星期六 · 1 条
16:17
MarkTechPost(RSS)精选
AI 评分 74/100
蚂蚁集团 Robbyant 发布 LingBot-VA 2.0,首个原生具身基础模型

蚂蚁集团旗下具身智能团队 Robbyant 发布 LingBot-VA 2.0,首个原生具身基础模型。该模型采用因果 DiT 架构,视频专家约 13.0B 参数(约 1.9B 激活),训练规模约 15.3B 参数,推理时每 token 约 2.5B 激活。模型引入多块预测(MCP)实现 2.3 倍训练加速,并通过前瞻推理将推理延迟降至 142 ms/chunk。在 RoboTwin 2.0 的 50 个任务上,干净与随机演示数据平均成功率分别达 93.8% 和 93.4%。

另有 1 家信源报道X:Rohan Paul (@rohanpaul_ai)
推荐理由:具身智能领域第一个从零预训练的因果视频-动作模型,将世界状态和动作统一在一个隐空间,异步推理优化到 225Hz,做机器人的值得仔细研究。