搜索
警惕“裸奔”的开源AI：研究称脱离监管或成黑客劫持温床
5 天前
网络安全公司联合发布的深度研究显示，开源大语言模型面临严峻安全挑战。脱离主流托管平台的开源模型更易成为攻击目标，互联网上存在数千个缺乏保护的运行实例，部分模型的安全防护被恶意移除。攻击者可劫持这些实例发动攻击，研究团队分析的Ollama部署实例中，部分系统提示词可被读取和修改。此类风险涉及仇恨言论传播等多个方面，传统防护手段难以应对。
