“代理式”人工智能（Agentic AI）时代已经到来，企业不能再忽视其变革潜力。AI代理能够独立运行，根据其编程进行决策和行动。Gartner预测，到2028年，15%的日常业务决策将完全由AI代理自主完成。
然而，随着这些系统的广泛应用，它们被集成到关键业务操作中，同时拥有过大的权限——深度访问系统、数据、功能和权限——使其成为网络犯罪分子的诱人目标。其中，威胁行为者利用提示词工程（Prompt Engineering）来操纵、欺骗或破坏AI代理，这是一种隐蔽但强大的攻击手段。
提示词工程为何能被利用？
提示词工程是指为AI系统（尤其是基于大语言模型[LLMs]的系统）精心设计输入（即“提示词”），以引导其产生特定的响应或行为。虽然提示词工程通常用于合法的目的，例如指导AI的决策过程，但它也可能被威胁行为者利用，以影响其输出，甚至操纵其底层数据或逻辑（即“提示词注入”）。
威胁行为者如何利用提示词工程攻击AI代理？
威胁行为者通过多种提示词工程技术来攻击AI代理系统，例如：
隐写式提示词（Steganographic Prompting）
是否还记得SEO投毒技术？该技术通过在白色背景上使用白色文字操控搜索引擎结果。当用户浏览网页时，他们无法看到这些隐藏文字，但搜索引擎爬虫可以读取。类似地，隐写式提示词技术通过嵌入隐藏文字或混淆指令，使其对人眼不可见，但可被大语言模型检测到。例如，某CEO使用AI邮箱助理进行回复。在发送邮件前，AI会进行一些检查以确保遵守编程规则（例如，不涉及紧急、敏感或专有信息）。但如果邮件中包含一些对人眼不可见但被AI读取的隐藏文字，可能会导致AI执行未经授权的操作、泄露机密信息，或生成不当或有害的输出。
通过这种方式，黑客可以利用AI的复杂性达成其恶意目的，这不仅对企业的安全构成威胁，也对AI技术的发展提出了新的安全挑战。
参考来源：
4A评测 - 免责申明
本站提供的一切软件、教程和内容信息仅限用于学习和研究目的。
不得将上述内容用于商业或者非法用途，否则一切后果请用户自负。
本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑或手机中彻底删除上述内容。
如果您喜欢该程序，请支持正版，购买注册，得到更好的正版服务。如有侵权请邮件与我们联系处理。敬请谅解！
程序来源网络，不确保不包含木马病毒等危险内容，请在确保安全的情况下或使用虚拟机使用。
侵权违规投诉邮箱：4ablog168#gmail.com（#换成@）
