谁来制定AI的规则？

AI能让我的孩子拥有更美好的未来吗？

AI会让世界变得更危险吗？

AI能帮助科学家治愈疾病吗？

人们对AI有很多尖锐的问题。回应这些问题正是我们的职责。

许多人对AI持积极态度。他们每天都在使用AI，看到了AI在减轻工作和生活负担、改变学习方式、加速科技发展、创造新的繁荣源泉，以及解决我们面临的最重大的医学和社会问题方面的潜力。

但也有很多人抱有严重的担忧。有些人担心AI可能导致失业；有些人担心AI会贬低创造性工作的价值；另一些人则关心人的自主性——AI可能会影响我们独立思考、建立人际关系以及寻找生活意义的能力。许多人担心AI能力落入不法之徒之手会带来什么后果，并质疑其收益是否大于代价。

在下面的短片中，您可以听到与我们交流过的人们所表达的一些希望和担忧。

Anthropic是一家公益性公司——我们的使命是确保先进AI模型的益处并降低其风险。例如，这项公益使命驱使我们投入资金研发AI安全措施以减少滥用风险，研究AI模型的行为与内部机制以帮助将其对齐到有益目标，向科学家免费提供我们的AI模型，并启动了奖学金项目，让早期职业生涯的Claude用户与非营利组织结对，以帮助扩大AI的益处。

要真正以公共利益为出发点行事，我们需要充分了解公众对这项新技术的期望和担忧。作为我们针对尖锐问题新举措的一部分，我们将采取进一步措施，了解人们对各种AI相关话题的看法和疑问，并透明地记录我们朝着公益目标的进展。

我们已经打下了基础，向成千上万人征求了他们对AI的看法：

• 我们已经启动了“Anthropic 公共记录”——一项公众调查，首轮调查询问了 52,000 名美国人，请他们阐述对这项技术最大的希望和担忧；
• 我们通过“Anthropic 访谈员”对来自 159 个国家和 70 种语言的 81,000 名 Claude 用户进行了调查；
• 我们进行了数十场线下焦点小组讨论，并召集了与 AI 提出的问题相关的工作和传统团体举行了会议；
• 我们一直在通过匿名化的真实世界数据研究 Claude 的使用情况。

我们成立了 Anthropic 研究院——公司内部的一个研究机构，旨在应对 AI 将对社会构成的最重大挑战——并且自公司成立之初，我们的长期利益信托基金就一直公正地监督我们在推进公共利益使命方面的成效。

现在，我们明确邀请您向我们提出关于 AI 最棘手的问题：关于 AI 对就业、社会和家庭影响的问题；关于我们如何实现 AI 在科学和医学领域的巨大潜力的问题；关于人类历史上最强大的技术之一接下来将带我们走向何方的问题。

作为回报，我们将公开跟踪并报告我们为解决这些问题所采取的具体行动——并且我们会坦诚说明我们在哪些方面可能未能达到既定目标。

要查看其他人提出的问题，并分享您自己的问题，请访问我们的“难题”网站。