AI

大模型供应链安全 | 加载数据集或模型可能就中毒

一、前言记得日志记录组件Log4j2漏洞一爆发,便在全球掀起轩然大波,国内外各大厂商均受影响应急响应。那在一个细分的大模型领域,同样也需要我们关注大模型供应链安全的健康状况。二、组…

AI大语言模型再陷入危机———新型网络攻击LLMjacking深度剖析

本文由ALESSANDRO BRUCATO于2024年5月6日发表于sysdig的官方博客,并在文中详细阐述了Sysdit威胁研究团队(TRT)近期发现的一种针对云端大语言模型服务…

攻防研究 | AI在“攻”的一些探索

一、前言之前对AI在安全攻击场景进行一些探索实践,一共分成了四个部分:文字、图片、声音、视频。其中大模型在对话、图片比较成熟,并且我们遇到的场景大部分也是文字、图片场景,所以文字、…

GPT-5将在6月发布前进行「红队进攻测试」

“GPT-5将在6月发布”的消息刷屏了AI朋友圈。这则消息之所以被无数人相信并转发,是因为已经有不少技术人员在社交平台上晒出了「红队进攻测试」邀请。基于 GPT系列庞大的用户体量和…