奥尔特曼宣布 OpenAI 五大原则：确保 AGI 惠及全人类，反对技术权力集中在少数人手中
阅读原文· ithome.comOpenAI CEO萨姆·奥尔特曼公布公司五大核心原则，旨在确保通用人工智能惠及全人类，反对技术权力集中在少数人手中。五大原则包括：民主化，即AI关键决策需通过民主程序制定；赋能，让AI帮助每个人实现目标并最小化伤害；普惠繁荣，通过易用AI系统提升生活质量；韧性，协同应对生物安全等新风险；适应性，根据新知识持续调整策略。OpenAI强调将采用迭代部署策略，与政府、社会等多方合作，推动AI安全发展。
IT之家 4 月 27 日消息，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）于当地时间 4 月 26 日发文，阐述了该公司在人工智能发展过程中的核心原则与长期目标。
他表示，AI 有潜力帮助人类社会在许多领域实现显著改善，人们借助 AI 所能完成的事情将远超蒸汽机或电力带来的变革。
他描述了一个繁荣程度远超当下想象的世界，在其愿景中，个人能力、主动性与实现自我价值的机会将显著提升，部分曾只存在于科幻作品中的设想可能成为现实。
但他同时指出，这一结果并非必然：未来技术权力可能集中在少数掌握超级智能的公司手中，也可能以去中心化的方式掌握在公众手里。OpenAI 的目标是将真正的通用人工智能交到尽可能多的人手中。
OpenAI 的使命是确保 AGI 惠及全人类，并据此制定了五项原则：
第一，民主化。OpenAI 将抵制该技术将权力集中在少数人手中的可能性。这意味着除了让每个人都能使用 AI 之外，还需要确保关于 AI 的关键决策通过民主程序和公平原则制定，而不仅仅由 AI 实验室决定。
第二，赋能。OpenAI 相信 AI 可以赋能每个人实现目标、学习更多、更快乐、更充实，并追求自己的梦想，整个社会都将从中受益。用户应能可靠地利用其服务完成越来越有价值的任务。OpenAI 希望给予用户广泛的自主权，同时有责任以最小化伤害的方式构建和部署 AI—— 既包括预防灾难性伤害，也包括减少局部伤害和避免潜在的腐蚀性社会影响。
第三，普惠繁荣。OpenAI 希望未来每个人都能拥有优质生活。通过将易于使用且具备强大计算能力的 AI 系统交到每个人手中，人们将找到创造价值的新方法，大幅改善生活质量，尤其是在新科学发现方面。为实现广泛共享的繁荣，奥尔特曼认为政府可能需要考虑新的经济模式，同时需要建设大量 AI 基础设施并开发新技术以大幅降低成本。