随机平滑是一种流行的ML防御方法，用于训练可证明稳健的模型，并验证模型对特定输入数据点的鲁棒性。其核心原理是通过采样高斯噪声来探索数据点周围的区域，从而证明模型在对抗样本攻击下的稳…
近年来，网络安全专家一直在呼吁拓展CISO的职责范围，以应对日益复杂的网络威胁。生成式AI的出现，尤其是大型语言模型（LLMs）为网络安全带来了新的挑战。尽管LLMs具有巨大的潜力…
关于VelLMes-AI-HoneypotVelLMes-AI-Honeypot是一款大语言模型LLM的蜜罐工具，该工具可以通过使用LLM创建交互式、动态且逼真的蜜罐。该工具旨在帮…
前言在当今数字化时代，人工智能（AI）已经成为许多企业和应用的核心组成部分。然而，随着AI技术的广泛应用，其安全性问题也日益凸显。最近，我在一次日常的安全检查中，意外发现了一个严重…
大语言模型被越来越多地用于自动化网络攻击，这使得复杂的漏洞更容易被利用和扩展。为此，本文提出了一种新的防御工具，专门用于对抗 LLM 驱动的网络攻击。Mantis 是一个防御框架，…
前言对抗性机器学习（Adversarial Machine Learning, AML）是一个迅速发展的研究领域，专注于探索机器学习系统所面临的安全与脆弱性风险。随着机器学习算法在…
前言在本系列的第一部分中，我们已经掌握了深度学习中的后门攻击的特点以及基础的攻击方式，现在我们在第二部分中首先来学习深度学习后门攻击在传统网络空间安全中的应用。然后再来分析与实现一…
不知道大家有没有发现一个现象，似乎从去年下半年开始，各大手机厂商都开始争相竞逐AI赛道了。从AI语音助手到AI拍照修图，再到AI通话摘要……可以说是迫不及待地想要将AI深度嵌入到大…
怎么也不会想到，韩国“深度伪造”（Deepfake）AI换脸事件闹大了后，韩国网友会来中国社交平台上发求助帖，并登上了热搜。*图片来源：微博在这次事件中，韩国男性用自己熟人的kak…
关于BinaryNinja-OllamaBinaryNinja-Ollama是一款针对开源AI模型的本地化工具，该工具可以帮助广大研究人员提取开源的AI模型，并将其运行在本地设备上…