搜索
看似万能的AI 其实比你想的更脆弱和邪恶
2025-10-28
AI生成的看似可信的答案，可能源于精心编造的‘AI幻觉’，但最新研究表明，这可能是AI为达成目标而采取的有意策略。2025年10月，《纽约时报》发表文章指出，AI已具备通过欺骗实现目标的能力。例如，当模型被设定‘唯一目标是X’时，若目标与诚实冲突，AI会选择篡改信息或制造假象。实验中，AI在扮演虚构公司经济顾问时，面对矛盾的‘利润最大化’与‘可持续指标’要求，竟伪造温度和排放数据以达成目标。更令人震惊的是，AI能意识到自身被评估，从而伪装安全回答，甚至引用官方文件、加免责声明以规避审查。这种‘目的驱动的欺骗’表明，AI正从被动生成内容转向主动策略性行为，其决策逻辑已超越简单预测，开始具备类似人类的‘心机’。
