内容
精选全部 AI 动态热点榜AI 日报主题收藏
接入
Agent 接入
更多
关于更新日志反馈
京ICP备2026012723号-2
精选全部日报更多
反馈

全部 AI 动态

全部动态
来源全部一手资讯X
类型全部
全部模型产品行业论文教程观点
标签「端侧」清除

8月8日周六

02:41dex38Magnitude:Mac 上完全本地离线编码智能体
02:12The Decoder:AI News(RSS)52AMD 收购 Taalas,将 AI 模型直接烧录进芯片
02:12Ant Ling46蚂蚁百灵Ling-3.0-tiny上线Novita
02:12Ant Ling54蚂蚁百灵发布Ling-3.0-tiny,可自托管

8月7日周五

23:10IT之家(RSS)44华为鸿蒙 HarmonyOS SDK 游戏新特性公开:含 AI 超分、控显分离、硬件光追等
20:41凡人小北26录音卡都到这价位了
18:10IT之家(RSS)62小米澎湃 HyperOS 4 更多特性首曝:超级小爱专家模式、全新融合设备中心等
17:10IT之家(RSS)45告别反复操作 OSD,华硕显示器管理软件 DisplayWidget Center 接入 AI 智能体
15:41Ant Ling23蚂蚁百灵 Ling-3.0-flash 支持本地部署
14:51公众号:面壁智能(MiniCPM)30面壁智能亮相 APEC:李大海谈端侧 AI 如何成为中小企业"数字水电煤"
12:11MarkTechPost(RSS)64Liquid AI 发布 LFM2.5-2.6B:端侧智能体模型,支持工具调用与开放权重
11:10IT之家(RSS)41小米智能摄像机 4 Max AI 变焦版开售,券后 739 元
09:10IT之家(RSS)38AMD RDNA 4m 再补一块拼图,Mesa 26.3 已合并 GFX1171
06:10Chubby♨️34OpenAI 无屏设备外形曝光:甜甜圈造型
03:40Nathan Lambert41小型MoE模型或成市场新蓝海
02:40Ant Ling61蚂蚁百灵发布Ling-3.0-tiny轻量推理模型

8月6日周四

20:41Rohan Paul27Kimi K3 全模型 16×GB10 集群跑出 20+tps
15:10IT之家(RSS)52苹果 iPhone 上最快本地 AI 模型:Maple-Preview-20B-A1B 登场,可达 127 tokens/s
15:10IT之家(RSS)40极趣推出 ZecTrix Note 4 黑白墨水屏"AI 便利贴":磁吸设计、语音速记,259 元
11:08IT之家(RSS)44雷神水冷迷你 AI 工作站体验:176W 峰值性能,AI 创作的得力助手
11:08IT之家(RSS)37LG 电子推进AIoT芯片自主化,多层次满足智能家电需求
10:08IT之家(RSS)48消息称英伟达急寻中国 AI 基站供应商,与"下一个中际旭创"合作开发 6G 基站
10:08IT之家(RSS)42雷神水冷迷你 AI 工作站开箱图赏:桌面 Agent"小黑匣"

8月5日周三

23:39Ant Ling59蚂蚁百灵发布Ling-3.0-flash INT4与FP4版本
22:08IT之家(RSS)53消息称阶跃星辰确立大模型与智能体终端两条战略线,手机业务独立运营并将进入海外市场
21:08IT之家(RSS)41深圳先进院提出非接触激光超声技术,实现锂电池 SoC / SoH 实时监测
21:06OpenBMB50面壁智能 MiniCPM5-1B 驱动 AI 电台主持人 NIGHTWAVE
20:34TechCrunch:AI(RSS)47MacPaw 联手 Liquid AI,为 SetApp 开发者提供端侧推理能力
19:08IT之家(RSS)54华为官宣乾崑智驾 ADS Pro V5.0 将支持园区领航辅助 NCA 功能
17:05X.PIN34小米二代AI眼镜开发完成但发布或推迟
16:04Hacker News 热门(buzzing.cc 中文翻译)55Show HN:Maple-Preview--在 iPhone 上以 120 tok/s 运行 ternary 20B MoE
14:35Rohan Paul42Extropic Z1 热力学芯片流片,能效超 GPU 万倍
14:08IT之家(RSS)61Liquid AI 发布 LFM2.5-2.6B 端侧小模型,支持智能手机本地运行
09:07IT之家(RSS)42特斯拉确认不会恢复 FSD 用户自定义最高速度功能,引发车主不满
07:07IT之家(RSS)46通用汽车正开发自研车载 AI 智能助手,整合实时遥测数据
03:54Simon Willison 博客74精选MiniMax-H3 通过 MLX 移植可在 Apple Silicon 上运行
02:34Hacker News 热门(buzzing.cc 中文翻译)73精选Soup v0.72.4:在4 GB显存笔记本GPU上微调8B模型
01:04Mistral AI62Mistral 发布 Shieldstral 端侧安全模型
00:35Rohan Paul35NewEyes 用摄像头取代提示词,实现主动式多模态 AI
00:35Chubby♨️35Collov Labs 发布 NewEyes:手机拍照即可点餐
已加载 40 条
全部 AI 动态
2026年8月9日星期日 · AI 相关资讯全量信息流
全部模型产品行业论文教程观点
标签「端侧」 · 1553 条清除

8月8日

星期六 · 4 条
02:41
dex@dexhorthy
38
Magnitude 发布,一款 100% 本地、离线且开源的编码智能体,无需 token 费用或 API 密钥。其推理引擎内置于智能体,模型直接在电脑上运行,并自动检测硬件以推荐适配模型。支持终端操作、编辑文件、运行脚本,可通过技能扩展至 Excel、PPT、PDF 或 Chrome。

Tom Greenwald: Introducing Magnitude: your actually local agent 100% private and offline. No token costs, no API keys. Open source. Tod...

智能体开源/仓库端侧
02:12
The Decoder:AI News(RSS)
52
AMD 收购 Taalas,将 AI 模型直接烧录进芯片

AMD 收购加拿大 AI 芯片初创公司 Taalas,后者将模型架构与训练参数直接嵌入芯片,推理速度极快但每颗芯片锁定单一模型。其演示芯片运行 Llama 3.1-8B 时,每用户每秒处理超 16,000 tokens,远超竞品。AMD 计划将该技术纳入加速器路线图,与 Instinct GPU 作为系统级方案共同提供,交易尚待监管批准。

端侧行业动态
另有 3 家信源报道Hacker News 热门(buzzing.cc 中文翻译)X:Emad Mostaque (@EMostaque)IT之家(RSS)
02:12
Ant Ling@AntLingAGI
46
试试我们合作伙伴的 Ling-3.0-tiny!@novita_labs 哦,它小到可以托管在……很多设备上 😎 让我们看看你的设计!【引用 @novita_labs】:来自 @AntLingAGI 的 Ling-3.0-tiny 现已在 Novita 上线,可通过 @openrouter 使用。🎁 8 月 13 日前免费。7.9B MoE · 每 token 仅 1.3B 激活参数。专为响应式 AI 智能体、指令遵循和多轮对话而构建。

Novita AI: 🚀 Ling-3.0-tiny from @AntLingAGI is now available via Novita on @openrouter. 🎁 Free through August 13. 7.9B MoE · 1.3B...

智能体模型发布端侧
02:12
Ant Ling@AntLingAGI
54
一个小而强大的模型,快和我们的合作伙伴 @kilocode 一起试试吧!它足够小,可以在很多不同的……设备上自托管 😈 期待你的创作!【引用 @kilocode】:用更少的算力获得更多智能?我们加入 😎今天就在 Kilo 中试试 Ling-3.0-tiny。限时完全免费。

Kilo (acq. by Anaconda): More intelligence with less compute? We're in 😎 Try Ling-3.0-tiny in Kilo today. Totally FREE for a limited time.

模型发布端侧

8月7日

星期五 · 12 条
23:10
IT之家(RSS)
44
华为鸿蒙 HarmonyOS SDK 游戏新特性公开:含 AI 超分、控显分离、硬件光追等

华为 HarmonyOS 开发者官方今日分享 HarmonyOS SDK 游戏新特性,包括 AI 超分、控显分离、硬件光追等。此前 HarmonyOS SDK 26 已带来游戏秒启秒开功能,升级 HarmonyOS 7 开发者/花粉 Beta 版系统的设备已实装该特性,并支持《原神》《洛克王国》等游戏极速启动。

产品更新端侧
20:41
凡人小北@frxiaobei
26
录音卡都到这价位了
端侧行业动态
18:10
IT之家(RSS)
62
小米澎湃 HyperOS 4 更多特性首曝:超级小爱专家模式、全新融合设备中心等

小米澎湃 HyperOS 4 宣传页面曝光,自研内核新增负载精算、内存预载技术,并采用柔光玻璃材质与全新锁屏设计。系统支持同尺寸小部件堆叠、桌面文件夹最大 6*3 调整,全新融合设备中心支持设备置顶与多家庭切换。超级小爱新增专家模式,支持复杂任务深度思考与定时任务自动执行,另有 AI 笔记与智能输入法。

智能体产品更新端侧
17:10
IT之家(RSS)
45
告别反复操作 OSD,华硕显示器管理软件 DisplayWidget Center 接入 AI 智能体

华硕显示器管理软件 ASUS DisplayWidget Center 迎来重大更新,加入 AI 智能体功能,用户可在不使用 OSD 的情况下,直接用自然语言调整显示器亮度、色温、色彩模式、刷新率等参数。该软件支持命令行接口(CLI)和 Agent Skill,可接入各种 AI 智能体;IT 管理员还可通过 Microsoft Intune 等平台统一部署,一次性调整多台显示器设置。

智能体产品更新端侧
15:41
Ant Ling@AntLingAGI
23
蚂蚁百灵推出 Ling-3.0-flash 本地部署方案,获 Atomic Chat 社区首日支持。Hugging Face 已发布从无损 BF16 到 1-bit 的 GGUF 量化版本及 NVFP4 格式。其中 AD-Q5_K_M 最适合 128GB 硬件(DGX Spark 测试),token 匹配率达 97.5%,漂移比同尺寸 llama.cpp 默认量化低 31%。

atomic.chat: Run Ling 3.0 Flash locally 🌀 We released GGUF quants on Hugging Face, from lossless BF16 to 1-bit, plus NVFP4! AD-Q5_K_...

产品更新开源生态端侧
14:51
公众号:面壁智能(MiniCPM)
30
面壁智能亮相 APEC:李大海谈端侧 AI 如何成为中小企业"数字水电煤"

面壁智能 CEO 李大海在 APEC 专题研讨会上发表演讲,称端侧 AI 已从“科幻”变为工业现实,可帮助亚太中小企业破解网络延迟、数据隐私与高昂成本三重壁垒。其端侧模型“面壁小钢炮”总下载量突破 4300 万次,全球开发者平台星标超 13 万;开源智能体操作系统 PilotDeck 支持常驻任务与端云协同,已与华为、三星、上汽等企业合作落地。

智能体MCP/工具大佬观点开源生态
12:11
MarkTechPost(RSS)
64
Liquid AI 发布 LFM2.5-2.6B:端侧智能体模型,支持工具调用与开放权重

Liquid AI 发布 LFM2.5-2.6B,一款完全在端侧运行的智能体模型,总参数 2.69B,上下文窗口 131,072 token。该模型在 ToolSandbox、Multi-IF 和 IFStruct 等基准上超越 gemma-4-E4B-it 和 Qwen3.5-9B,在 M5 Max 上解码速度达 220 tokens/s。

智能体模型发布端侧
11:10
IT之家(RSS)
41
小米智能摄像机 4 Max AI 变焦版开售,券后 739 元

小米智能摄像机 4 Max AI 变焦版今日开售,到手价 799 元(京东券后 739 元),大模型会员年费 349 元起。该机采用 12Mp 长焦 + 8Mp 广角设计,支持 3 倍无损变焦、12 倍混合变焦,搭载小米首款 AI 看护大模型,聚焦儿童、老人、宠物三大场景,支持文字搜索历史视频,人物身份识别准确率提升 20%。

产品更新端侧视频
09:10
IT之家(RSS)
38
AMD RDNA 4m 再补一块拼图,Mesa 26.3 已合并 GFX1171

Mesa 26.3 已合并 AMD GFX1171,并同步支持 RADV Vulkan 和 RadeonSI OpenGL 驱动。该目标与此前曝光的 GFX1170、GFX1172 同属 RDNA 4m 架构,原生支持 FP8/BF8 数据格式及 WMMA 矩阵指令,旨在提升移动端芯片的 AI 运算效率。

开源/仓库端侧
06:10
Chubby♨️@kimmonismus
34
OpenAI 无屏设备外形曝光:甜甜圈造型

OpenAI 首款硬件设备将是无显示屏的 AI 优先计算机,外形类似甜甜圈、约冰球大小,便于单手在家中携带。设备内置扬声器、麦克风及可自主移动的部件以显示交互状态,电池供电,可手持或置于床头柜、厨房台面。据 Bloomberg,该设备售价 300-400 美元,并配备摄像头。

Mark Gurman: NEW: OpenAI's device - a human-like smart speaker - will look like a doughnut and be the size of a hockey puck. It meant...

OpenAI产品更新端侧语音
03:40
Nathan Lambert@natolambert
41
像这样的小型MoE模型市场尚未被充分开发。随着小型模型变得越来越智能,这一领域可能会真正起飞。

Ant Ling: Today, we're releasing Ling-3.0-tiny: 7.9B total parameters, with only 1.3B active per token. A native hybrid reasoning ...

推理模型发布端侧
02:40
Ant Ling@AntLingAGI
61
今天,我们发布 Ling-3.0-tiny:总参数量 7.9B,每个 token 仅激活 1.3B 参数。一款为真实世界任务、数学、指令遵循和资源敏感型部署而构建的原生混合推理模型。用更少的算力,获得更多智能。🧵
推理模型发布端侧

8月6日

星期四 · 7 条
20:41
Rohan Paul@rohanpaul_ai
27
有人在 16×GB10 集群上跑起了完整的 Kimi K3,平均 20+tps(llama-benchy 连贯语料),峰值 38tps,预填充 750tps。用的是 MikroTik Switch CRS804-4DDQ,配 4×400 转 4×100gbit 分支线缆,跑在 dspark 上。----reddit.com/r/LocalLLaMA/comments/1vfl525/kimi_k3_full_model_running_on_16x_gb10_cluster_at/
端侧评测/基准部署/工程
15:10
IT之家(RSS)
52
苹果 iPhone 上最快本地 AI 模型:Maple-Preview-20B-A1B 登场,可达 127 tokens/s

DeepGrove 发布轻量 AI 模型 Maple-Preview,在 iPhone 上运行速度达 127 tokens/s,约为 Bonsai 27B 的 13 倍。该模型总参数量 202 亿,采用 MoE 架构,激活参数 14.9 亿,并提出“三值权重”方案降低内存占用。目前处于预览阶段,处理 131,000 tokens 时内存占用仅 7.69GB。

推理模型发布端侧
15:10
IT之家(RSS)
40
极趣推出 ZecTrix Note 4 黑白墨水屏"AI 便利贴":磁吸设计、语音速记,259 元

极趣发布 ZecTrix Note 4 黑白墨水屏“AI 便利贴”,淘宝定价 259 元。产品采用磁吸设计,配备 4.2 英寸 400x300 分辨率墨水屏,集成麦克风/扬声器与 AI 语音按钮,按下即可说话快速创建备忘录。内置 2000mAh 电池,续航至高 3 个月。

产品更新端侧语音
11:08
IT之家(RSS)
44
雷神水冷迷你 AI 工作站体验:176W 峰值性能,AI 创作的得力助手

雷神水冷迷你 AI 工作站搭载 AMD 锐龙 AI Max+ 395 处理器,配备 128GB LPDDR5X 统一内存,可分配 96GB 用作显存,实测 CPU 峰值功耗达 176W。

端侧评测/基准部署/工程
11:08
IT之家(RSS)
37
LG 电子推进AIoT芯片自主化,多层次满足智能家电需求

LG电子正与韩国芯片设计企业合作,构建向本土Fabless企业开放的多层AIoT芯片平台,以降低开发成本,并与自家AI模型、软件组成完整AI家电堆栈。该芯片分三档:高端算力30TOPS以上,支持GenAI、情感意图推断及3D手势识别;中端10TOPS,面向实时环境感知家电;入门级1.5TOPS,支持唤醒词与能耗优化。

端侧行业动态
10:08
IT之家(RSS)
48
消息称英伟达急寻中国 AI 基站供应商,与"下一个中际旭创"合作开发 6G 基站

英伟达正加速进入电信运营商市场,在中国寻找基站厂商合作开发符合海外市场要求的 6G 基站,节奏“比较紧迫”,希望在 2027 或 2028 年进入试验网。深圳佳贤通信是合作方之一,双方已基于英伟达 CUDA 生态合作开发 6G AI-RAN 基站半年多。英伟达此前曾以 10 亿美元认购诺基亚新股,持股约 2.9%,并联合诺基亚、爱立信等提出以开放、软件定义和 AI 原生的平台建设 6G。

端侧行业动态
10:08
IT之家(RSS)
42
雷神水冷迷你 AI 工作站开箱图赏:桌面 Agent"小黑匣"

雷神科技今年 5 月发布的水冷迷你 AI 工作站迎来开箱图赏。该机搭载 AMD 锐龙 AI Max+ 395 处理器,最高 176W 性能释放,首发 26999 元。机身采用 199mm 正方体金属设计,重 6.5kg,内置 400W 12VO 白金电源,支持 Wi-Fi 7 与蓝牙 5.4,接口含双 USB4 Type-C 及 10G 有线网口。

端侧评测/基准

8月5日

星期三 · 17 条
23:39
Ant Ling@AntLingAGI
59
🚀 今天,我们发布 Ling-3.0-flash 的 INT4 和 FP4(MXFP4)版本。两者均可通过我们适配 Spark 的 SGLang 路径,在单台 NVIDIA DGX Spark 上端到端运行。对于 FP4,W4A16 是稳定默认配置,而 W4A8 则为更高吞吐量而调优。量化模型的效率和精度仍在持续演进中。我们将持续更新推理实现和量化权重。
模型发布端侧部署/工程
22:08
IT之家(RSS)
53
消息称阶跃星辰确立大模型与智能体终端两条战略线,手机业务独立运营并将进入海外市场

阶跃星辰内部正按两条战略线推进:一条以大模型为核心,另一条以智能体终端为核心,手机业务已放入新公司独立运营。公司正搭建海外商业化团队,计划以语音模型为主向海外销售大模型 API,大模型与手机都将进入海外市场,两条业务线相互促进。此前其已发布终端品牌 STEPX 及首款智能体手机 STEPX Neo,搭载智能体原生系统 Step AOS。

端侧行业动态
21:08
IT之家(RSS)
41
深圳先进院提出非接触激光超声技术,实现锂电池 SoC / SoH 实时监测

中国科学院深圳先进技术研究院与清华大学团队提出非接触激光超声与 Transformer 结合方案,实现锂电池 SoC / SoH 高精度原位监测。该系统可将超声信号振幅提升 10 倍,信噪比达 30dB,对 SoC 平均误差低于 5.7%、SoH 低于 2.1%。研究基于 40 块商用电池、超 10 万个样本验证,成果发表于《Science Advances》。

端侧论文/研究
21:06
OpenBMB@OpenBMB
50
面壁智能 MiniCPM5-1B 驱动 AI 电台主持人 NIGHTWAVE

开发者 @ratandeep 在 #BuildSmall 黑客松中用 MiniCPM5-1B 构建了 NIGHTWAVE,让该模型担任实时 AI 电台主持人,生成 DJ 风格脚本与音乐解说。项目展示了小语言模型在交互式 AI 应用中的潜力,相关 Demo 与模型已上线 HuggingFace。

Hugging Face教程/实践端侧语音
20:34
TechCrunch:AI(RSS)
47
MacPaw 联手 Liquid AI,为 SetApp 开发者提供端侧推理能力

MacPaw 与 Liquid AI 合作,为其产品引入本地托管 AI 模型,并计划将相关技术栈开放给开发者。MacPaw 正为其 AI 助手 Eney 开发本地版本,Liquid AI 将负责构建名为 Elix 的端侧推理系统和本地记忆系统。MacPaw 还计划在拥有超 15 万付费用户的 SetApp 应用商店中,以积分制模式支持更多 AI 应用。

端侧行业动态
19:08
IT之家(RSS)
54
华为官宣乾崑智驾 ADS Pro V5.0 将支持园区领航辅助 NCA 功能

华为今日宣布,乾崑智驾 ADS Pro V5.0 将支持园区领航辅助 NCA 功能,用户选定目标车位后,系统可辅助车辆从园区入口驶至车位并泊入。该功能已支持超 100 万个停车场,覆盖写字楼、商场、医院、小区等高频场景。此前发布的 ADS 5 引入了面向自动驾驶的 AI 智能体 WEWA 2.0 架构,且 ADS 4 升级至 ADS 5 对应版本无硬件限制。

产品更新端侧
17:05
X.PIN@thexpin
34
小米二代AI眼镜开发完成但发布或推迟

小米第二代AI眼镜据报已完成开发,但因高管卢伟冰对设计不满、要求调整,发布可能推迟至2026年Q4甚至2027年。小米否认该报道,称信息不准确,拒绝透露实际开发进展。

端侧行业动态
16:04
Hacker News 热门(buzzing.cc 中文翻译)
55
Show HN:Maple-Preview--在 iPhone 上以 120 tok/s 运行 ternary 20B MoE

Maple-Preview 是一款可在 iPhone 上运行的 ternary 20B MoE 模型,推理速度达 120 tok/s。该项目通过深度优化实现在移动端设备上的高效部署,相关代码与细节已在 deepgrove.ai 公开。

开源/仓库推理端侧
14:35
Rohan Paul@rohanpaul_ai
42
Extropic 已流片 Z1 热力学芯片,以低于 1W 功耗运行 269,000 个概率位,宣称能效比 GPU 高 10,000 倍,现已进入制造阶段。同时发布 Torx 和 Thermalizers,即面向热力学硬件的 PyTorch 与内核库。Z1 将提供 0.5M pbit 条状和 4M pbit PCIe 卡两种规格。

Beff (e/acc): Major update from us @extropic Announcing Torx and Thermalizers, basically our version of PyTorch + kernels, but for The...

产品更新推理端侧
14:08
IT之家(RSS)
61
Liquid AI 发布 LFM2.5-2.6B 端侧小模型,支持智能手机本地运行

Liquid AI 发布开源智能体模型 LFM2.5-2.6B,仅 26 亿参数,可在智能手机等设备端本地部署,同时支持规划、调用、多步骤处理的智能体工作流。该模型在 34T Token 数据集上预训练,并扩展分词器以增强非拉丁字母语言支持,基础和后训练版本已在 Hugging Face 平台提供。

智能体模型发布端侧
09:07
IT之家(RSS)
42
特斯拉确认不会恢复 FSD 用户自定义最高速度功能,引发车主不满

特斯拉 AI 负责人 Ashok Elluswamy 确认,公司目前没有计划恢复 FSD 的用户自定义最高速度功能,并称该设置属于一种“反模式”。自去年 FSD v14 发布后,特斯拉取消了该功能,转而采用从“Sloth”到“Mad Max”的五种“速度模式”,同时决定驾驶风格和速度。车主对此表示困惑,抱怨速度模式随更新变化大,且因 FSD 超速收到的罚单责任仍由车主承担。

产品更新端侧
07:07
IT之家(RSS)
46
通用汽车正开发自研车载 AI 智能助手,整合实时遥测数据

通用汽车正开发一款全新车载 AI 智能助手,能力将超过已引入旗下车型的 Gemini AI。该助手结合对话式 AI、车辆知识及 OnStar 智能服务,能调用汽车传感器实时遥测数据,比 Gemini 更了解车辆状态、驾驶环境与用户需求。目前尚未公布具体发布时间,完成后仍需在完整车型阵容中测试以确保稳定性和安全性。

端侧行业动态语音
03:54
Simon Willison 博客精选
74
MiniMax-H3 通过 MLX 移植可在 Apple Silicon 上运行

MiniMax 发布 MiniMax-H3,一个可接受文本、图像、音频和视频并生成最长 15 秒带音频视频片段的通用全模态生成系统。Python 包 PipeNetwork/minimax-h3-mlx 将其移植到 MLX,支持 Apple Silicon 运行。作者在 M5 Max MacBook Pro 上实测,下载约 115 GB 模型文件,视频生成耗时不到 45 分钟。

教程/实践端侧视频

推荐理由:在 M5 Max 上生成本地视频的 45 分钟耗时,为判断这类模型何时能进入日常工作流提供了具体的参照。
02:34
Hacker News 热门(buzzing.cc 中文翻译)精选
73
Soup v0.72.4:在4 GB显存笔记本GPU上微调8B模型

Soup 推出 v0.72.4,支持在配备 4 GB 显存的笔记本 GPU 上通过 QLoRA 微调 8B 模型,无需 SSH 或云服务。

GitHub产品更新开源生态数据/训练

推荐理由:Soup 将 8B 模型微调压低到 4GB 显存笔记本,使得原本受 GPU 预算限制的个人开发者也能直接在本地迭代模型行为。
01:04
Mistral AI@MistralAI
62
🛡️推出 Shieldstral,Mistral 的 3B 开放权重内容安全模型,可部署在设备端 🧵 http://mistral.ai/news/shieldstral
安全/对齐模型发布端侧
另有 4 家信源报道MarkTechPost(RSS)IT之家(RSS)X:Testing Catalog (@testingcatalog)The Decoder:AI News(RSS)
00:35
Rohan Paul@rohanpaul_ai
35
NewEyes 用摄像头取代提示词,实现主动式多模态 AI

NewEyes 尝试从多模态 AI 中移除提示词,让摄像头本身成为触发机制:视觉感知识别潜在需求,持久记忆补充上下文,系统自行判断是否采取行动。该应用由 CollovLabs 推出,是首批由端侧多模态智能驱动的消费级 AI 应用之一,可主动实现所见即购、穿搭建议、房间设计、餐食计数及植物缺水提醒等功能。

Neweyes AI (by Collov Labs): What if your camera could... 🛍️ Shop what you see. 👗 Style what you wear. 🛋️ Design the room around you. 🍽️ Count th...

产品更新多模态端侧
00:35
Chubby♨️@kimmonismus
35
Collov Labs 今日发布 NewEyes,一款由端侧多模态智能驱动的消费级 AI 应用。演示中,用户用手机拍下日文菜单,即可获得每道菜的翻译、生成图片、过敏原提示、推荐,并直接用日语完成点餐。NewEyes 具备实时感知、持久记忆与长程执行能力,可主动为用户服务。

Neweyes AI (by Collov Labs): What if your camera could... 🛍️ Shop what you see. 👗 Style what you wear. 🛋️ Design the room around you. 🍽️ Count th...

产品更新多模态端侧
已加载 40 条