Sysdig威胁研究团队(TRT)观察到一种新型攻击，命名为LLMjacking。它利用窃取的云凭证，对托管在云上的十个大型语言模型(LLM)服务发起攻击。这些凭证是从一个流行的目…
本文由ALESSANDRO BRUCATO于2024年5月6日发表于sysdig的官方博客，并在文中详细阐述了Sysdit威胁研究团队（TRT）近期发现的一种针对云端大语言模型服务…
前言：授人以鱼不如授人以渔.先学会用，在学原理，在学创造，可能一辈子用不到这种能力，但是不能不具备这种能力。这篇文章主要是介绍算法入门Helloword之手写图片识别模型java中…
本文由安全研究专家Omar Santos于2024年03月24日发表于思科安全博客上，本文将主要讨论保护人工智能系统和LLM栈的重要性，并阐述AI模型、LLM实施和安全方法论。前言…
一、背景2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚…
“GPT-5将在6月发布”的消息刷屏了AI朋友圈。这则消息之所以被无数人相信并转发，是因为已经有不少技术人员在社交平台上晒出了「红队进攻测试」邀请。基于 GPT系列庞大的用户体量和…
前言从本周开始考虑连载关于大模型安全的文章名字就叫做《大语言模型（LLM）攻防实战手册》，主要基于owasp llm top 10所整理的框架进行编写，并辅以案例、代码进行完善，希…
一、前言目前越来越多AI落地应用了比如：腾讯混元大模型在研发安全漏洞修复的实践、腾讯会议AI小助手等等，AI与WEB应用结合如果使用不当也会出现各种问题。portswigger提供…
关于AntiSquatAntiSquat是一款功能强大的域名安全检测工具，该工具基于人工智能技术实现其功能，例如自然语言处理（NLP）和大语言模型（ChatGPT）等，可以帮助广大…