生成式AI从提升工作效率的神器，竟变成了企业和网友的心腹大患？
日前安全公司Check Point发布报告称，一款名为“FunkSec”的木马型勒索病毒从2024年底至今，陆续攻击了85家企业。解析代码后研究人员发现该病毒基于Rust编程语言，语法注释非常流畅，但攻击模式较为原始落后，判断该病毒大概率由AI生成。
随着调查的深入，研究人员还发现有黑客在地下论坛售卖FunkSec病毒。这种情况表明，黑客可以利用生成式AI大规模制造病毒牟利。科技是一把双刃剑，生成式AI在提高工作效率、生活便利度之外，潜在的风险也逐渐显露了出来。
生成式AI带来了新的安全问题
自从OpenAI发布ChatGPT后，使用生成式AI开发病毒或生成其他有害内容，用于攻击企业和个人计算机就已十分常见。安全公司Vipre公布的数据显示，2023年第二季度商务邮件欺诈攻击数量相较2022年增加了20%，其中接近一半由AI生成。
企业安全威胁研究团队Imperva Threat Research在报告中指出，2024年4月到9月，零售网站平均每天要遭受569884次攻击，ChatGPT、Claude、Gemini等AI工具，常被用于进行DDoS（分布式拒绝服务攻击）和业务逻辑滥用等行动。
信息咨询公司Gartner表示，AI在网络攻击中的应用已连续三个季度成为企业面临的最大风险。在接受该公司访问的286位高级风险审计人员中，80%的受访者对AI可能带来的网络攻击表示担忧。
（图源：豆包AI生成）
生成式AI之所以能够成为黑客攻击企业或个人的强力工具，原因不在于其生成的病毒多么强大，而在于生成式AI大幅降低了成为黑客的门槛。
Check Point研究人员透露，售卖FunkSec病毒的黑客们技术能力并不强，他们甚至在论坛发帖询问“如何成为黑客”。这群黑客炫耀的攻击企业和数据窃取等“佳绩”，实际上来自其他黑客的犯罪行动，没有生成式AI协助，他们大概率连攻击方式原始落后的FunkSec都开发不出来。
2024年10月25日，据日本《读卖新闻》报道，当地一名男子因使用生成式AI制造勒索病毒，被判处有期徒刑三年、缓刑四年。该事件也是日本首个因使用生成式AI制造有害内容被刑事处罚的案件。
在庭审过程中，案犯交代自己不懂任何IT知识，若没有生成式AI则无法制造病毒，并承认用生成式AI制造病毒的过程极其简单。一个完全不懂IT知识的人，都可以利用生成式AI制造病毒并获利，可见在生成式AI时代，黑客的门槛有多么低，人人都拥有成为黑客的能力。
（图源：豆包AI生成）
更关键的是，日本IT解决方案提供商三井物产Secure Directions的高级恶意软件分析技术员吉川孝志直言，生成式AI虽然可以设置限制，不直接生成有害内容，但存在规避限制的方法，网上可以轻松找到。
另外，还有开发者开发出了专用于生成恶意代码的AI大模型，如WormGPT、PoisonGPT等。在不法分子频繁利用AI攻击个人和企业，黑客门槛几乎等同于不存在的今天，企业和个人保护自己的信息安全将成为难题。
只有AI，才能对抗AI攻击？
抵御生成式AI所制造病毒的攻击前，首先我们要明白病毒程序攻击的方式。在《威胁洞察（Threat Insights）》报告中，惠普公司指出，受害者遭遇攻击的主要方式为网络钓鱼电子邮件或恶意广告，例如在我们搜索某些工具时，诱导我们进入虚假网站，下载包含病毒的文件，某些不法分子甚至将病毒程序隐藏在SVG（可缩放矢量图形）中。
惠普公司还在报告中表示，2024年第二季度，有12%带有有害信息的电子邮件绕过了检测系统，其中61%来自附件，18%来自浏览器下载，21%来自移动存储设备，而ZIP文件占恶意文件总量的39%。
（图源：豆包AI生成）
过去常有网友表示，电脑从来不安装杀毒程序，不去浏览非法网站，电脑就不会中病毒。然而在恶意程序数量飞速增长，假网站无处不在的今天，用户中招的概率也将大幅提升。对抗生成式AI批量制造病毒程序的关键，就在于合理利用AI。
从病毒的攻击方式来看，将AI融入杀毒软件、浏览器、搜索引擎，或许能够帮助个人用户构建更坚实的防火墙。杀毒软件加入AI功能后，可以智能对文件进行扫描分析，结合生成式AI编程的特性，提高病毒的识别能力，从而拦截含有病毒的文件。
浏览器的责任同样重大，与AI融合后，要尽量做到帮助用户分析网址的风险，并对网站内的各类文件，包括SVG图像进行检测，从源头减少用户下载到含有病毒文件的可能性。我们搜索一些东西时，经常会弹出许多广告内容和虚假网站，对用户的上网体验造成了不利影响，增加了用户被病毒攻击的风险。搜索引擎同样需要利用AI技术，排除虚假网站。
（图源：豆包AI生成）
相较于个人，企业面临的风险更大，也是不法分子植入病毒和勒索的主要对象。因而企业不但要增强安全软件的能力，利用AI识别和抵御生成式AI制造的病毒程序，还要对网络隔离和访问控制，必要时对备份数据和机密数据进行物理隔离。同时，企业也要及时对员工进行培训，避免因员工的错误操作将病毒引入公司内部，而造成财产损失。
自从1982年世界上第一个真正意义上的计算机病毒Elk Cloner诞生以来，近半个世纪的时间中，互联网公司与黑客之间的对决就从未停止过。21世纪初中国互联网飞速发展之时，也出现过影响巨大的熊猫烧香事件，前几年的勒索病毒肆虐，更令无数用户和企业遭殃。
利用生成式AI制造病毒，是AI时代黑客们新的攻击手段。网络安全公司也将以AI对抗AI，利用AI识别病毒的代码特征加以拦截，保护用户的上网安全。
防御AI攻击，不能只靠技术
利用生成式AI制造病毒和防御病毒攻击，本身都会消耗大量资源，可能会拖累企业的正常发展。生成式AI大幅降低了制造病毒的门槛，导致普通人也可以生成病毒，未来病毒、虚假网站等可能会指数级上升，导致病毒随处可见，对于整个互联网行业的发展也绝非好事。
普通网民可利用AI帮忙规避部分潜在的风险，例如需要查询一些信息时，可以直接向AI大模型提问，并通过AI大模型提供的链接进入相应的网址，若要下载一些软件，也可以让向AI索要官网网址。经过AI筛选的内容，安全性更有保障。
（图源：豆包AI生成）
国内互联网的安全程度比较高，尽管也有不少下载站、虚假网站等，但大多可以轻松识别，而且360、腾讯电脑管家等主流杀毒软件，还会提供软件下载渠道，可帮助用户规避一定的风险。
企业方面情况更为复杂，但网络保护措施也更加健全，考虑到勒索病毒肆虐期不少企业中招，这些企业也需要招募更多人才或与网络安全公司加深合作，以应对AI时代的病毒攻击。
不过仅依靠AI抵御病毒攻击能够起到的效果有限，百密终有一疏，防贼千日和作贼千日付出的资源不对等。唯有出台更严格、更详细的规定，限制和打击利用生成式AI制造病毒的不法分子，方能彻底消灭黑客群体。
相关部门已在不遗余力打击利用网络犯罪的不法分子，公安部网安局公布的数据显示，2024年全力推进打击网络黑客犯罪专项工作，侦破案件1600余起，抓获犯罪嫌疑人4900余名。在相关部门的打击下，国内黑客的生存空间只会越来越小，我们的上网安全也将更有保障。
来源：雷科技
原文标题 : AI生成病毒曝光！黑客零门槛时代，只有AI才能对抗AI攻击？
