瑞典金融科技公司 Klarna 最近表示其AI聊天机器人在投入使用的第一个月就处理了 2/3 的客户服务请求，相当于 700 名全职员工的工作量。AI机机器人在回答基本问题等重复性…
一、背景2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚…
“GPT-5将在6月发布”的消息刷屏了AI朋友圈。这则消息之所以被无数人相信并转发，是因为已经有不少技术人员在社交平台上晒出了「红队进攻测试」邀请。基于 GPT系列庞大的用户体量和…
前言从本周开始考虑连载关于大模型安全的文章名字就叫做《大语言模型（LLM）攻防实战手册》，主要基于owasp llm top 10所整理的框架进行编写，并辅以案例、代码进行完善，希…
AISecOps/MLSecOps是2023年网络安全领域的热门技术。AISecOps/MLSecOps目前存在两类主要风险：依赖开源或第三方的数据集、库、框架、模型、基础设施和解…
一、前言最近我们监测到两则情报，似乎有一定联系。1、跨国公司香港办事处因骗子举办深度伪造视频会议而损失 2 亿港元2、OpenAI 正在为 DALL-E 3 添加新水印第一则信息是…
一、前言目前越来越多AI落地应用了比如：腾讯混元大模型在研发安全漏洞修复的实践、腾讯会议AI小助手等等，AI与WEB应用结合如果使用不当也会出现各种问题。portswigger提供…
2023 年 10 月，Darktrace 某客户网络遭到 ALPHV（即黑猫）勒索软件攻击。经过分析，该攻击事件与Nitrogen恶意软件相关，例如发布恶意广告、分发恶意 Pyt…
一、目的本文主要介绍AIGC类产品需要关注的法律法规，以及如何满足合规要求。二、术语和定义AIGC（Artificial Intelligence Generated Conten…