前言对抗性机器学习（Adversarial Machine Learning, AML）是一个迅速发展的研究领域，专注于探索机器学习系统所面临的安全与脆弱性风险。随着机器学习算法在…
前言随着威胁事件的增加，人工智能（AI）和机器学习（ML）已成为安全行业进攻安全态势中的关键因素。传统的防御性安全实践足以防止威胁，但随着网络威胁的不断演变，防御这些攻击的能力显著…
前言在本系列的第一部分中，我们已经掌握了深度学习中的后门攻击的特点以及基础的攻击方式，现在我们在第二部分中首先来学习深度学习后门攻击在传统网络空间安全中的应用。然后再来分析与实现一…
关于Agentic SecurityAgentic Security是一款针对LLM模型的模糊测试与安全检测工具，该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。…
引⾔⼤语⾔模型（Large Language Models, LLMs）的横空出世，为传统计算机科学的各个细分领域带来了颠覆性的变⾰。这种变⾰的浪潮同样席卷了⽹络安全领域，引发了⼀…
本文由安全研究专家Omar Santos于2024年03月24日发表于思科安全博客上，本文将主要讨论保护人工智能系统和LLM栈的重要性，并阐述AI模型、LLM实施和安全方法论。前言…
AISecOps/MLSecOps是2023年网络安全领域的热门技术。AISecOps/MLSecOps目前存在两类主要风险：依赖开源或第三方的数据集、库、框架、模型、基础设施和解…
关于i-am-a-boti-am-a-bot是一款基于多个大语言模型的验证码安全评估工具，该工具提供了一个使用了多模态大语言模型（LLM）的自动化解决方案，可以帮助广大研究人员测试…