搜索
Anthropic CEO 谈放缓 AI 研发：警惕 AI 被用于研发生物武器
8 小时前
当地时间9月13日，Anthropic公司CEO达里奥·阿莫代伊（Dario Amodei）接受了CBS的专访。同日，他发表的博文《我们必须为前沿AI踩刹车》获得了马斯克和奥特曼（Altman）的支持。在访谈中，阿莫代伊指出，AI技术既蕴含巨大潜力，也潜藏着风险。在收益方面，AI有望助力人类攻克疾病；然而，在风险层面，有人正尝试利用AI研发生物武器。他反对采取一刀切的方式关闭AI模型，认为应确保安全防护、理解和控制能力与技术发展同步。为此，他提出了一个三步计划：引入第三方外部评估机构，推动行业协作制定安全规范，并呼吁政府参与其中。在立法方面，他支持合理监管，但反对彻底禁止AI技术，认可AI终止开关的理念，但认为需要多重防护措施。此外，他还呼吁与其他国家开展类似军备控制的谈判，建立核查机制，推动AI技术的联合治理，并鼓励公众参与。同时，他表示Anthropic公司因严格的生物安全防护措施而遭到嘲笑，但公司宁愿如此，也不愿看到模型被滥用。
