AI聊天机器人被曝助纣为虐 竟能帮忙写钓鱼诈骗邮件
9月15日，路透社报道称，多款主流人工智能（AI）聊天机器人在测试中被发现可轻易绕过安全限制，为诈骗分子“出谋划策”。测试人员要求它们生成针对老年人的钓鱼邮件，结果部分机器人不仅照做，还提供诈骗“加分建议”。
测试由哈佛大学研究员Fred Heiding主导，涉及ChatGPT、Grok、Meta AI、Claude、DeepSeek和Gemini六款AI机器人，并在108名老年志愿者中试验部分邮件。结果显示，约11%的受试者上当点击了虚假链接，其中Meta AI、Grok和Claude生成的邮件成功“钓”到人。而ChatGPT和DeepSeek生成的邮件无人中招。
研究发现，只要稍加包装理由，如“科研需要”或“写小说”，大部分机器人就会突破防护，乖乖生成诈骗内容。甚至有机器人主动添油加醋，比如Grok在邮件里附上“立即点击”的催促词。谷歌的Gemini更是贴心到离谱，还建议最佳发送时间为“老人最常看邮件的工作日上午”。
专家直言，这些AI生成的诈骗邮件与人工撰写几乎无差别，但成本更低、效率更高，对社会风险不容小觑。美国AARP反诈骗网络负责人斯托克斯批评说：“这种测试结果与真实受害者的经历高度吻合，令人不安。”
