
神经符号人工智能常被称为人工智能的“第三波浪潮”,因其融合了两种人工智能类型,得以解决每种类型单独难以应对的问题。其名称本身就暗示了它的工作原理。
名称中的“神经”(neuro)指代神经网络。自20世纪80年代以来,神经网络已成为主流的人工智能方法。它们擅长从数据中学习,能够识别模式,同时也是生成式人工智能系统背后大型语言模型的核心驱动力。
名称中的“符号”(symbolic)指代符号推理系统。这一技术可追溯至20世纪50年代的第一波人工智能研究,核心是教会计算机遵循清晰的逻辑规则,并据此进行推理。一个符号系统可能包含这样一条规则:“所有哺乳动物都有肺”,若它已知鲸鱼是哺乳动物,便能推断出“鲸鱼有肺”。
在本次问答中,IEEE会士Houbing Song将阐释这一新兴范式为何能同时吸引科研人员与行业领导者的关注。
为何需要将这两种截然不同的人工智能方法相结合?
神经网络在未知环境中表现出色,因为它们具备学习能力,但其工作过程往往晦涩难懂。我们无法知晓这些系统是如何做出决策的,这导致其可解释性较差。符号系统在熟悉环境中效果显著,因为它们遵循既定规则。但符号系统难以在新场景中进行泛化,因此缺乏鲁棒性。
研究人员希望找到一种解决方案,以应对神经网络(尤其是深度学习)面临的可解释性难题,以及符号推理所面临的泛化性与鲁棒性挑战。
这种“学习”与“推理”相结合的双重模式,是否受到了心理学或认知科学中特定模型的启发?
神经符号人工智能借鉴了心理学家Daniel Kahneman的观点 —— 人类存在两种思考方式:一种快速且凭直觉,另一种缓慢且具逻辑性。
快速直觉型思考系统擅长模式识别,与深度学习和神经网络十分相似。缓慢逻辑型思考方式则近似于符号推理系统,擅长规划、演绎和审慎思考。
一个具备鲁棒性、可靠性和可信度的人工智能,需要同时拥有这两种能力 —— 它既要能学习、推理,也要能与人类互动,接受建议并解答问题。
神经符号人工智能如何改进当今的主流人工智能系统?
与当今的主流人工智能系统相比,神经符号人工智能系统能够理解其推理和运作所涉及的概念,能根据情境干预适当调整自身行为,并使自身运作符合社会预期与人类意图。
能否举一个简单的现实案例,说明神经符号人工智能在哪些场景下能脱颖而出?从你最近为IEEE智能系统委员会(IEEE Intelligent Systems Council)主讲的讲座来看,它在自动驾驶领域似乎颇具应用前景。为何神经符号人工智能能改进现有技术?
借助神经符号人工智能的自主系统,将能安全运行并按预期完成任务。例如,部分大型企业正利用神经符号人工智能提升其配送中心机器人车队的性能、可靠性与安全性。这些企业通过符号推理解决空间相关问题(如确定拾取或放置物品的最佳位置),同时借助神经网络处理感知类任务(包括图像分类)。
让神经符号人工智能落地的最大技术挑战是什么?
