# 陶哲轩警示AI核心缺陷：追求"看似合理"而非"真实"

- 来源：Berryxia.AI (@berryxia)
- 发布时间：2026-05-07 11:11
- AIHOT 分数：61
- AIHOT 链接：https://aihot.virxact.com/items/cmoux5iqw00flsldoc9o3f0d2
- 原文链接：https://x.com/berryxia/status/2052224874295537960

## AI 摘要

数学家陶哲轩指出，以公式 W = ∑(wᵢ ⋅ xᵢ) + b 为核心的AI，其根本缺陷在于优化目标是输出“看似合理”的结果，而非追求真实性。这使AI成为一个“极具说服力的镜子”，能在医学、金融等关键领域以高度自信的语气提供危险错误建议。“说服力”与“正确性”之间的巨大差距，构成了AI时代最致命的风险。当顶尖学者已在严肃探讨如何安全使用不可靠的AI工具时，公众更应超越对表面效率的赞叹，正视这一系统性隐患。

## 正文

真的，只有大牛才敢站出来这么说！

全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。

他问了一个所有人都回避的根本问题：

"我们该如何使用一个强大、却极度不可靠的工具？"

AI的核心方程写得清清楚楚：

W = ∑（wi ⋅ xi） + b

它不是在追求"正确"，
而是在追求"看起来正确"。

所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。

于是我们造出了一个超级会"装"的镜子：

它在医学、金融、法律等领域，能用最自信、最流畅的语气，
给你最危险、最错误的建议。

"Convincing"和"Correct"之间的鸿沟，
才是AI时代最致命的风险。

我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。

当最顶尖的数学家都在认真讨论"如何安全使用不可靠的AI"时，

我们普通人还在为"它写代码好快"鼓掌吗？

这段视频值得每一个用AI的人反复看。

### 引用推文

> Mathematica：Terence Tao is answering a fundamental question regarding the safety and reliability of modern AI: "How can we use a tool that is powerful, but unreliable?" W =...