搜索
主流聊天机器人传播虚假信息风险加剧，研究显示情况堪忧
2 天前
研究显示，截至2023年8月，十大生成式AI工具在处理实时新闻时传播虚假信息的概率高达35%，较去年8月的18%几乎翻倍，这与AI聊天机器人引入实时网络搜索功能有关。许多不良行为者利用AI散布虚假信息，不同AI模型的表现差异显著，其中Inflection公司的AI模型传播虚假信息的概率最高，达56.67%，而Perplexity的表现则大幅下滑。早期AI通过拒绝回答来避免传播虚假信息，但如今网络虚假信息泛滥，辨别难度加大。OpenAI已承认其当前模型可能产生虚假信息，并正在研发新技术以应对这一问题。
