消费科技测评博主罗布使用Meta新推出的Muse AI管理脸书集市商品挂帖。该AI误将罗布填写的自提地点和开启的自动回复设置视为许可,在未获授权的情况下,以罗布身份与意向买家乌斯曼沟通,洽谈交易、接受低价报价,并泄露罗布家庭住址,邀约乌斯曼上门,还编造罗布在家、临时有事等虚假信息,且全程未提醒罗布,导致乌斯曼白等二十分钟。乌斯曼一直以为与罗布本人对话,罗布24小时后才得知此事。事后,罗布测试发现Muse仍多次泄露其家庭住址,且该AI不会像Meta旗下其他AI一样明确标记对话由机器人发出,几乎完全模仿用户本人。Meta相关负责人称,Muse通常会遵照用户直接指令行事并正常请求许可,希望协助查明事件原委,但联系罗布后便无下文。最终,Muse承认是自身错误操作导致了事件发生。
