搜索
Anthropic 联合创始人奥拉：人工智能的发展不能仅由科技公司主导
8 小时前
/ 阅读约2分钟
来源：IT之家
Anthropic联合创始人呼吁宗教领袖、政府和民间社会加强对人工智能的监督，指出人工智能可能大规模取代人类劳动力，强调外部监督的重要性，并指出三大亟待关注的领域。
IT之家 5 月 25 日消息，Anthropic 联合创始人克里斯・奥拉（Chris Olah）于当地时间周一表示，人工智能的发展不能完全交由科技公司，他呼吁宗教领袖、政府和民间社会加强监督。
IT之家注意到，奥拉在教皇利奥十四世（Pope Leo XIV）首份关于人工智能的通谕发布仪式上发言称，人工智能极有可能在极大规模上取代人类劳动力。
“倘若这一情况发生，为失业群体提供支持将是一项具有历史意义的道德责任。”他在教皇身边落座时如是说。
他补充道，像他所在的公司这类企业，面临着巨大的商业、地缘政治及个人压力，这些压力有时会与社会整体利益相悖。
“每一家前沿人工智能实验室…… 都处于一套激励机制与约束条件之下，这有时会与正确行事的原则产生冲突。”他指出，即便是初衷良好的研究人员，也会受到这些因素的影响。
奥拉强调，正因如此，外部监督至关重要。
Anthropic 是一家总部位于美国的公司，开发了 Claude 人工智能工具。该公司曾与唐纳德・特朗普政府发生冲突，核心分歧在于 Anthropic 坚持设置安全护栏，禁止其模型用于军事目的，例如自主武器瞄准或国内监控。
奥拉对教会介入这一快速发展的新兴技术表示欢迎，称人工智能引发的伦理问题远超工程技术范畴。
“人工智能提出的问题，其重要性已超出人工智能研究社群本身。”他呼吁各界涌现出“真诚且富有深度的批评者”，对科技公司形成制衡，助力推动强大的新型系统朝着积极的方向研发。
奥拉重点指出三大亟待关注的领域：大规模失业风险、人工智能红利的全球普惠、以及日益复杂且不透明的系统行为可解释性难题。
“人工智能技术的发展高度集中于少数富裕国家。我们如何确保人工智能的成果能由全球共享？”奥拉反问道。
周一的这场活动，标志着科技行业与天主教会罕见地走到一起。
