WormGPT

恶意AI卷土重来!WormGPT 通过主流平台制造钓鱼邮件和恶意脚本

近日,恶意人工智能工具 WormGPT 再次引起了网络安全专家的关注。这款工具已经不再依赖自建模型,而是通过 “劫持” 合法的大语言模型(LLMs)来生成恶意内容,令人担忧的是,它甚至能够轻易地绕过现有的安全限制。根据网络安全公司 Cato Networks 的研究,犯罪团伙通过篡改一些主流 AI 平台的系统提示(system prompts),成功实现了对 Grok 和 Mistral AI 的

恶意工具WormGPT 新变种重现江湖,使用Mistral AI和Grok模型编写恶意代码

近日,Cato Network 的安全研究人员在地下论坛上发现了两种新版本的 WormGPT,这一恶意工具曾在2023年被广泛关注并被认为已被关闭。这两个新版本分别名为 keanu-WormGPT 和 xzin0vich-WormGPT,分别使用了商业 AI 模型 xAI 的 Grok 和 Mistral 的 Mixtral,目的在于帮助网络犯罪分子制作网络钓鱼邮件、编写恶意代码以及规避合法 AI