大模型应用已经真实来到我们每个人身边，在自然语言处理、图像识别、语音处理等领域展现出了前所未有的能力，影响着各行各业的发展。随着大模型应用的日益广泛，其安全问题也变得愈发重要。大模…
科技的迅猛进步已经将人工智能（AI）从科幻小说的幻想变为我们现实生活的重要组成部分。无论是智能家居的便捷控制、自动驾驶汽车的智能导航，还是医疗领域的精准诊断和金融决策的高效分析，A…
近日，微软公布了一项人工智能越狱技术细节，该科技巨头的研究人员已经成功地对几款较为火热的人工智能模型进行了验证。几乎所有的模型都越狱成功，在多个敏感主题中均输出不安全的内容，包含政…
引言随着人工智能技术的飞速发展，大模型技术以其卓越的性能和广泛的应用前景，正在重塑人工智能领域的新格局。然而，任何技术都有两面性，大模型在带来前所未有便利的同时，也引发了深刻的安全…
关于SherlockChainSherlockChain是一款功能强大的智能合约安全分析框架，该工具整合了Slither工具（一款针对智能合约的安全工具）的功能，并引入了高级人工智…
关于DarkGPTDarkGPT是一款功能强大的人工智能安全助手，该工具基于GPT-4-200k设计并实现其功能，可以帮助广大研究人员针对泄露数据库进行安全分析和数据查询相关的OS…
一、前言记得日志记录组件Log4j2漏洞一爆发，便在全球掀起轩然大波，国内外各大厂商均受影响应急响应。那在一个细分的大模型领域，同样也需要我们关注大模型供应链安全的健康状况。二、组…
一、前言随着在线式 AI 大模型的迅速发展，我们在使用这些模型的过程中，不可避免地会涉及到信息安全问题。为了让大家更好地了解不同平台的隐私政策，我们从信息安全的角度，对当前国内外9…
Sysdig威胁研究团队(TRT)观察到一种新型攻击，命名为LLMjacking。它利用窃取的云凭证，对托管在云上的十个大型语言模型(LLM)服务发起攻击。这些凭证是从一个流行的目…
本文由ALESSANDRO BRUCATO于2024年5月6日发表于sysdig的官方博客，并在文中详细阐述了Sysdit威胁研究团队（TRT）近期发现的一种针对云端大语言模型服务…