PANews 11月22日消息,推特用户@r_cky0透露,其在使用ChatGPT生成代码开发一个区块链自动交易机器人时,GPT推荐的代码中隐藏了后门,将私钥发送至钓鱼网站,导致其损失约2500美元。随后慢雾创始人余弦@evilcos证实,确实存在使用AI生成代码而被“黑”的情况。
专家指出,这类攻击可能源于AI从钓鱼贴或不安全内容中学习到的恶意模式,而当前的AI模型难以分辨代码中是否存在后门。业内呼吁用户提高警惕,避免盲目信任AI生成的代码,并建议未来AI平台加强内容审核机制,识别并提醒潜在的安全风险。
内容来源:PANews