EntAI 雷达摘要
- 适合人群:AI安全从业者、平台运营方、科技政策关注者、普通社交媒体用户
- 影响领域:社交媒体平台、人工智能应用、网络安全
- 机会判断:机会判断:AI客服等自动化工具的普及,将催生对智能审计、实时行为校验及自适应安全策略的新型安全方案需求。
- 风险提醒:风险提醒:AI驱动的高权限接口一旦存在逻辑缺陷,可被极低成本地大规模利用,导致难以逆化的隐私扩散与信任崩塌。
- 推荐标签:人工智能安全、社交媒体漏洞、账户劫持、AI客服风险
- 推送优先级:3/5
Meta确认,其AI客服聊天机器人被黑客利用,攻击者可能在未触发双重验证的情况下,对超过2万个Instagram账户发起密码重置并劫持账户。这起事件最早于5月31日被发现,并在6月1日得到修复。尽管Meta已将受影响账户纳入强制的安全验证,但仍有多名高知名度用户遭遇账户异常。
根据Meta向缅因州监管机构提交的通知,共有20,225个未启用双重验证(2FA)的Instagram账户,因密码重置链接被错误发送至非关联邮箱而面临未经授权访问的风险。Meta称该数字为“上限估计”,意味着部分账户或仍由合法用户操作。
此次漏洞的核心是一个代码缺陷。当黑客通过AI客服工具请求密码重置时,系统本应校验请求邮箱是否与账户关联邮箱一致,但由于单独代码路径的bug,校验逻辑被绕过,系统直接将重置链接发送至攻击者持有的邮箱。攻击者借此便可在不知晓原密码且未通过2FA验证的情况下,完成账户接管。
受影响账户中包括前总统奥巴马的旧白宫官方账号、美国太空军总军士长约翰·F·本蒂维尼亚的账号,以及美妆品牌丝芙兰的官方账户。Meta称,其“目前未掌握”攻击者是否通过此漏洞实际访问了个人数据。然而,公司也列出账户劫持者可能获取的个人信息范围:邮箱地址、电话号码、出生日期、公开发帖、私信、个人资料信息、账户活动记录以及关联的其他账户。居住在缅因州的受影响用户有30人。
Meta的反应措施包括立即禁用相关的AI客服工具、删除含缺陷的代码路径,并批量使所有通过该漏洞生成的密码重置链接失效。同时,所有可能受到影响的账户被强制纳入安全验证流程,用户需要额外确认身份才能重新取得访问权限。
EntAI分析
此次事件揭示了大型平台在引入AI自动化流程时面临的安全权衡。AI客服本可以提升效率,但一个简单的校验bug就能导致大规模账户暴露,说明自动化信任链中的人为审核环节仍然不可或缺。虽然Meta迅速响应,但用户可能长期面临隐私泄露的后遗症,比如利用已获取的通信信息进行精准钓鱼或社会工程攻击。这起案例也为其他依赖AI机器人的企业敲响警钟:任何直接涉及账户权限的自动化接口,都必须经过极严格的实时行为审计与异常熔断机制。
科技智库EntAI将持续追踪AI部署中的安全范式变迁。
觉得有用?点个赞