关于Pentest MusePentest Muse是一款专为网络安全研究人员和渗透测试人员设计和开发的人工智能AI助手，该工具可以帮助渗透测试人员进行头脑风暴、编写Payload…
一、前言随着在线式 AI 大模型的迅速发展，我们在使用这些模型的过程中，不可避免地会涉及到信息安全问题。为了让大家更好地了解不同平台的隐私政策，我们从信息安全的角度，对当前国内外9…
Sysdig威胁研究团队(TRT)观察到一种新型攻击，命名为LLMjacking。它利用窃取的云凭证，对托管在云上的十个大型语言模型(LLM)服务发起攻击。这些凭证是从一个流行的目…
本文由ALESSANDRO BRUCATO于2024年5月6日发表于sysdig的官方博客，并在文中详细阐述了Sysdit威胁研究团队（TRT）近期发现的一种针对云端大语言模型服务…
前言：授人以鱼不如授人以渔.先学会用，在学原理，在学创造，可能一辈子用不到这种能力，但是不能不具备这种能力。这篇文章主要是介绍算法入门Helloword之手写图片识别模型java中…
本文由安全研究专家Omar Santos于2024年03月24日发表于思科安全博客上，本文将主要讨论保护人工智能系统和LLM栈的重要性，并阐述AI模型、LLM实施和安全方法论。前言…
一、背景2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚…
“GPT-5将在6月发布”的消息刷屏了AI朋友圈。这则消息之所以被无数人相信并转发，是因为已经有不少技术人员在社交平台上晒出了「红队进攻测试」邀请。基于 GPT系列庞大的用户体量和…
前言从本周开始考虑连载关于大模型安全的文章名字就叫做《大语言模型（LLM）攻防实战手册》，主要基于owasp llm top 10所整理的框架进行编写，并辅以案例、代码进行完善，希…
一、前言目前越来越多AI落地应用了比如：腾讯混元大模型在研发安全漏洞修复的实践、腾讯会议AI小助手等等，AI与WEB应用结合如果使用不当也会出现各种问题。portswigger提供…