机器学习

基于伪随机数生成器的模型后门攻击

随机平滑是一种流行的ML防御方法,用于训练可证明稳健的模型,并验证模型对特定输入数据点的鲁棒性。其核心原理是通过采样高斯噪声来探索数据点周围的区域,从而证明模型在对抗样本攻击下的稳…

6款开源AI安全工具

AISecOps/MLSecOps是2023年网络安全领域的热门技术。AISecOps/MLSecOps目前存在两类主要风险:依赖开源或第三方的数据集、库、框架、模型、基础设施和解…

深度伪造技术导致信任坍塌:身份去中心化是治标还是治本?

写在前面的话目前,威胁行为者正在广泛使用深度伪造技术并结合其他验证绕过技术来破坏我们对互联网现有身份验证机制的信任,而这种行为将导致一系列网络欺诈活动的出现。那么问题来了:去中心化…