大语言模型被越来越多地用于自动化网络攻击，这使得复杂的漏洞更容易被利用和扩展。为此，本文提出了一种新的防御工具，专门用于对抗 LLM 驱动的网络攻击。Mantis 是一个防御框架，…
前言对抗性机器学习（Adversarial Machine Learning, AML）是一个迅速发展的研究领域，专注于探索机器学习系统所面临的安全与脆弱性风险。随着机器学习算法在…
前言在本系列的第一部分中，我们已经掌握了深度学习中的后门攻击的特点以及基础的攻击方式，现在我们在第二部分中首先来学习深度学习后门攻击在传统网络空间安全中的应用。然后再来分析与实现一…
不知道大家有没有发现一个现象，似乎从去年下半年开始，各大手机厂商都开始争相竞逐AI赛道了。从AI语音助手到AI拍照修图，再到AI通话摘要……可以说是迫不及待地想要将AI深度嵌入到大…
怎么也不会想到，韩国“深度伪造”（Deepfake）AI换脸事件闹大了后，韩国网友会来中国社交平台上发求助帖，并登上了热搜。*图片来源：微博在这次事件中，韩国男性用自己熟人的kak…
关于BinaryNinja-OllamaBinaryNinja-Ollama是一款针对开源AI模型的本地化工具，该工具可以帮助广大研究人员提取开源的AI模型，并将其运行在本地设备上…
大模型应用已经真实来到我们每个人身边，在自然语言处理、图像识别、语音处理等领域展现出了前所未有的能力，影响着各行各业的发展。随着大模型应用的日益广泛，其安全问题也变得愈发重要。大模…
科技的迅猛进步已经将人工智能（AI）从科幻小说的幻想变为我们现实生活的重要组成部分。无论是智能家居的便捷控制、自动驾驶汽车的智能导航，还是医疗领域的精准诊断和金融决策的高效分析，A…
近日，微软公布了一项人工智能越狱技术细节，该科技巨头的研究人员已经成功地对几款较为火热的人工智能模型进行了验证。几乎所有的模型都越狱成功，在多个敏感主题中均输出不安全的内容，包含政…
引言随着人工智能技术的飞速发展，大模型技术以其卓越的性能和广泛的应用前景，正在重塑人工智能领域的新格局。然而，任何技术都有两面性，大模型在带来前所未有便利的同时，也引发了深刻的安全…