关于SherlockChainSherlockChain是一款功能强大的智能合约安全分析框架，该工具整合了Slither工具（一款针对智能合约的安全工具）的功能，并引入了高级人工智…
关于DarkGPTDarkGPT是一款功能强大的人工智能安全助手，该工具基于GPT-4-200k设计并实现其功能，可以帮助广大研究人员针对泄露数据库进行安全分析和数据查询相关的OS…
一、前言记得日志记录组件Log4j2漏洞一爆发，便在全球掀起轩然大波，国内外各大厂商均受影响应急响应。那在一个细分的大模型领域，同样也需要我们关注大模型供应链安全的健康状况。二、组…
一、前言随着在线式 AI 大模型的迅速发展，我们在使用这些模型的过程中，不可避免地会涉及到信息安全问题。为了让大家更好地了解不同平台的隐私政策，我们从信息安全的角度，对当前国内外9…
Sysdig威胁研究团队(TRT)观察到一种新型攻击，命名为LLMjacking。它利用窃取的云凭证，对托管在云上的十个大型语言模型(LLM)服务发起攻击。这些凭证是从一个流行的目…
本文由ALESSANDRO BRUCATO于2024年5月6日发表于sysdig的官方博客，并在文中详细阐述了Sysdit威胁研究团队（TRT）近期发现的一种针对云端大语言模型服务…
1. 漏洞介绍日常网上冲浪，突然粗看以为是有关Chat-GPT的CVE披露出来了，但是仔细一看原来是ChatGPT-Next-Web的漏洞。漏洞描述大致如下：（如果有自己搭建了还没…
AI 可同时用于网络安全攻防两方，相信读者都已经不陌生了。越来越多的在野记录证明攻击方正在全面利用AI辅助发起网络攻击。最近，美国土安全部（DHS）公开发布了对关键基础设施拥有者和…
一、前言之前对AI在安全攻击场景进行一些探索实践，一共分成了四个部分：文字、图片、声音、视频。其中大模型在对话、图片比较成熟，并且我们遇到的场景大部分也是文字、图片场景，所以文字、…
本文由安全研究专家Omar Santos于2024年03月24日发表于思科安全博客上，本文将主要讨论保护人工智能系统和LLM栈的重要性，并阐述AI模型、LLM实施和安全方法论。前言…