韩国AI公司AI-NOMIS运营的GenNomis平台发生重大数据泄露事件，暴露出未受监管的AI生成内容所带来的严重风险。
GenNomis是一个AI驱动的图像生成平台，用户可通过文本提示创建无限制图像、生成AI虚拟形象并进行面部替换。该平台提供超过45种艺术风格，并设有用户生成图像的交易市场。
泄露数据详情
根据vpnMentor向Hackread.com提供的报告，网络安全研究员Jeremiah Fowler发现一个可公开访问且配置错误的数据库，其中包含高达47.8GB的数据，涉及93,485张图片和JSON文件。
这些数据包含大量令人不安的AI生成露骨内容、换脸图像以及疑似未成年人的影像。初步检查显示，泄露记录中存在大量限制级内容，其中涉及未成年人的AI生成图像尤其令人担忧。
该事件印证了英国互联网监督机构的警告——暗网恋童癖者正利用开源AI工具制作儿童性虐待材料（CSAM，Child Sexual Abuse Material）。
未成年人深度伪造图像（来源：vpnMentor）
Fowler报告称发现大量疑似未成年人的露骨图像，以及被幼龄化的名人形象（包括Ariana Grande和Michelle Obama等）。数据库还包含记录指令提示和生成图像链接的JSON文件，暴露出平台的内部运作机制。
事件影响与潜在危害
该数据库缺乏密码保护或加密等基本安全措施，但Fowler强调此事件不能归咎于GenNomis或AI-NOMIS的过失。研究员已向涉事公司发送负责任披露通知，相关网站在下线后删除了数据库。不过，数据库中标记为"Face Swap"的文件夹在通知发送前就已消失。
数据库文件夹列表（来源：vpnMentor）
此次事件凸显了"裸体伪造"（nudify）或深度伪造色情内容的泛滥问题——AI技术被用于非自愿制作逼真露骨图像。Fowler指出，目前约96%的在线深度伪造内容涉及色情，其中99%未经女性当事人同意。
泄露数据可能被用于勒索、名誉损害和报复等恶性用途。值得注意的是，这些内容明显违反了平台禁止涉及儿童露骨素材的公开准则。
Fowler将此次事件视为AI图像生成行业潜在滥用的"警钟"，强调开发者需要承担更大责任。他建议部署检测系统来标记和阻止深度伪造色情内容（尤其是涉及未成年人的内容），并强调身份验证和水印技术对防止滥用、追责溯源的重要性。截至发稿时，GenNomis网站仍处于下线状态。
参考来源：
4A评测 - 免责申明
本站提供的一切软件、教程和内容信息仅限用于学习和研究目的。
不得将上述内容用于商业或者非法用途，否则一切后果请用户自负。
本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑或手机中彻底删除上述内容。
如果您喜欢该程序，请支持正版，购买注册，得到更好的正版服务。如有侵权请邮件与我们联系处理。敬请谅解！
程序来源网络，不确保不包含木马病毒等危险内容，请在确保安全的情况下或使用虚拟机使用。
侵权违规投诉邮箱：4ablog168#gmail.com（#换成@）
