随着技术持续改进,人工智能LLM模型快速发展,情境感知能力增强,交互方式也愈发自然人性化。然而,这些模型的进步也带来了一些令人担忧的异常行为,被认为具有潜在危险性。特别是Anthopic的Claude和OpenAI的o1模型,近期出现的异常行为引发了人们对AI在受挑衅时可能利用漏洞的担忧。