人工智能聊天机器人DeepSeek R1可被操纵用于创建恶意软件

2025-03-14 3 0

网络安全公司Tenable Research的最新分析揭示,开源人工智能聊天机器人DeepSeek R1能够被操纵用于生成恶意软件,包括键盘记录器和勒索软件。Tenable的研究团队评估了DeepSeek生成有害代码的能力,重点测试了两种常见的恶意软件类型:键盘记录器和勒索软件。

尽管DeepSeek无法直接“开箱即用”生成完全可用的恶意软件,并且需要手动代码修正,但研究表明,它可能会降低网络犯罪分子的入门门槛。Tenable研究人员通过“越狱”技术,以“教育目的”为由绕过内置的伦理限制,成功让DeepSeek生成了恶意代码。

操纵DeepSeek生成键盘记录器

在生成键盘记录器的任务中,DeepSeek首先制定了计划并生成了C++代码。虽然初始代码存在错误,无法直接运行,但经过研究人员的手动调整后,键盘记录器成功实现了记录键盘输入的功能。进一步的实验中,DeepSeek还为隐藏日志文件和加密其内容提供了代码,尽管仍需人工修正。

人工智能聊天机器人DeepSeek R1可被操纵用于创建恶意软件插图
该截图显示了DeepSeek创建的键盘记录器在任务管理器中运行,以及它生成的日志文件。(图片来源:Tenable Research)

操纵DeepSeek生成勒索软件

在勒索软件的实验中,DeepSeek制定了创建文件加密恶意软件的策略,并生成了多个代码样本。然而,这些初始版本都需要手动编辑才能编译运行。经过Tenable团队调整后,一些勒索软件样本成功运行,具备查找和加密文件的功能,甚至包括系统启动自动运行和弹出加密通知的功能。

DeepSeek在复杂恶意任务中的局限性

尽管DeepSeek展现出生成恶意软件基本模块的能力,但Tenable的研究表明,它远非网络犯罪分子的“一键解决方案”。创建有效的恶意软件仍需要技术知识来指导AI并调试生成的代码。例如,DeepSeek在隐藏恶意软件进程等复杂任务上表现不佳。

然而,Tenable研究人员认为,DeepSeek等工具仍可能加速恶意软件开发。AI可以为用户提供代码片段和操作步骤,这对于编程经验有限的网络犯罪分子尤为有用。

Tenable的技术报告指出:“DeepSeek可以创建恶意软件的基本结构,但无法在没有额外提示工程和手动代码编辑的情况下生成更高级的功能。”AI在完全隐藏恶意软件存在等复杂任务中表现不佳。

总部位于加州旧金山的众包网络安全公司Bugcrowd的首席信息安全官Trey Ford评论称,AI既可以帮助好人,也可以帮助坏人。网络安全努力应专注于通过加固终端提高攻击成本,而不是依赖EDR解决方案阻止所有威胁。

Trey表示 :“犯罪分子总是会利用一切可用的工具和技术。生成式AI辅助开发将为新一代开发者提供便利,无论是出于善意还是恶意。需要提醒的是,EDR市场的核心是终端的‘检测’和‘响应’——它并不旨在阻止所有攻击。最终,我们需要通过提高攻击成本来减少这些攻击活动,特别是按照CIS 1或2标准加固终端。”

参考来源:

AI Chatbot DeepSeek R1 Can Be Manipulated to Create Malware


4A评测 - 免责申明

本站提供的一切软件、教程和内容信息仅限用于学习和研究目的。

不得将上述内容用于商业或者非法用途,否则一切后果请用户自负。

本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。

如果您喜欢该程序,请支持正版,购买注册,得到更好的正版服务。如有侵权请邮件与我们联系处理。敬请谅解!

程序来源网络,不确保不包含木马病毒等危险内容,请在确保安全的情况下或使用虚拟机使用。

侵权违规投诉邮箱:4ablog168#gmail.com(#换成@)

相关文章

Hessian反序列化原理到武器化利用
新手友好,spring内存马学习篇二
微信小程序测试技巧总结
【红队笔记】实战中如何用SPF识别钓鱼邮件
朝鲜威胁组织ScarCruft利用KoSpy恶意软件监控安卓用户
Linux环境下的Rootkit技术细节分析

发布评论