AI安全

6款开源AI安全工具

AISecOps/MLSecOps是2023年网络安全领域的热门技术。AISecOps/MLSecOps目前存在两类主要风险:依赖开源或第三方的数据集、库、框架、模型、基础设施和解…

黑产也许最会利用AI的?

一、前言最近我们监测到两则情报,似乎有一定联系。1、跨国公司香港办事处因骗子举办深度伪造视频会议而损失 2 亿港元2、OpenAI 正在为 DALL-E 3 添加新水印第一则信息是…

大模型之原生安全与基础安全的火花

一、前言目前越来越多AI落地应用了比如:腾讯混元大模型在研发安全漏洞修复的实践、腾讯会议AI小助手等等,AI与WEB应用结合如果使用不当也会出现各种问题。portswigger提供…

看Darktrace如何对抗ALPHV BlackCat勒索软件

2023 年 10 月,Darktrace 某客户网络遭到 ALPHV(即黑猫)勒索软件攻击。经过分析,该攻击事件与Nitrogen恶意软件相关,例如发布恶意广告、分发恶意 Pyt…

AIGC合规指南一:关键要点和算法备案实践

一、目的本文主要介绍AIGC类产品需要关注的法律法规,以及如何满足合规要求。二、术语和定义AIGC(Artificial Intelligence Generated Conten…