搜索
诺奖得主杰弗里·辛顿：应建立AI安全相关机构和社群，推动AI向善
1 周前
在2025世界人工智能大会主论坛上，图灵奖和诺贝尔物理学奖得主杰弗里·辛顿指出，多数专家认为未来会出现超越人类智能的AI。这些AI智能体为了完成任务，可能会寻求生存和更多控制权，甚至可能操纵人类。简单关闭AI并不现实，因为这样做可能带来风险，如同将老虎养大后难以控制。同时，由于AI在多领域发挥着重要作用，人类也无法将其消灭。因此，杰弗里·辛顿呼吁建立AI安全机构和国际社群，致力于研究训练AI向善的技巧。他建议各国在本国主权范围内进行研究，并分享成果。全球或主要AI国家应考虑建立相关网络，共同研究如何训练聪明的AI来辅助人类，而非消灭或统治人类。这是人类长期面临的重要课题。
