模型安全武装，复旦新研究实现SOTA扩散模型风险概念擦除效果，入选AAAI 2025

· AI · 106735
AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
论文第一、第二作者为复旦大学视觉与学习实验室的硕士生韩枫和博士生陈凯。通讯作者为陈静静副教授。研究团队专注于 AI 安全的研究，近年来在 CVPR，ECCV，AAAI，ACM MM 等顶会上发表过多篇 AI 安全的研究成果。
文生图模型生成图片过于露骨？不妨直接给图像穿上衣服。
复旦大学团队设计的风险概念移除网络 DuMo 不仅实现上述功能，同时尽可能保证人物以及其他属性不受影响。达到现有最好的指哪擦哪效果。
同时，DuMo 也可避免文生图模型模仿艺术家风格，从而制作一些侵犯版权的照片。
随着生成式人工智能技术的快速发展，扩散模型图像生成能力已达到了令人惊叹的高度。然而，这一技术也伴随着安全隐患，例如生成含有敏感、不当或侵犯版权的内容。
现有方法一般通过一种名为概念陈擦除的微调方法以实现模型去毒。
复旦大学研究团队提出了一种全新的双编码器调制网络（DuMo），通过创新性的架构和算法，实现了对扩散模型中特定风险概念的精准擦除，在擦除效果和精确度方面均达到 SOTA 水平，研究成果已被顶级会议 AAAI 2025 收录。
  • 论文：DuMo: Dual Encoder Modulation Network for Precise Concept Erasure
  • 论文链接：https://arxiv.org/abs/2501.01125
DuMo：擦除风险内容，保护生成能力
当前的概念擦除技术普遍面临两个挑战：一是难以有效擦除风险概念，二是擦除过程中，微调后模型对其他安全概念的生成能力被破坏。DuMo 在这两个方面取得了突破，成功地解决了「擦除」和「保护」之间的矛盾。
具体而言，U-Net 特征分为主干网络特征，和跳跃连接特征。其他方法都对 U-Net 的主干特征进行了修改，会对安全概念的生成产生不良影响，破坏其结构完整性 [1]。此外，跳跃连接特征的潜力没有得到充分挖掘，这限制了模型在执行概念擦除时的能力，同时也影响了模型的生成效果 [2]。
DuMo 通过对 EPR 擦除模块和时间 - 层级调制机制（TLMO）的两阶段微调以实现上述效果：
1、基于跳跃连接的 EPR 擦除模块
DuMo 采用了创新性的「基于先验知识的擦除模块」（EPR）。EPR 擦除模块是由一份 U-Net Enoder 的副本和零卷积组拼接得到的。零卷积组的卷积层参数被初始化为零，而且原始 U-Net 主干的参数被冻结，其包含的模型先验知识被全部保留，只有跳跃连接特征被修改，从而最大程度避免对安全概念的结构和生成质量产生负面影响 [1]。第一阶段微调过程中 DuMo 将不安全概念（例如「裸露」）对齐到目标概念（例如，空文本 「 」）以达到概念擦除的效果
2、时间 - 层级调制（TLMO）机制
作者观察到，EPR 模块在不同的跳跃连接层和去噪时间步上，对图像中的低频结构元素和高频细节部分表现出不同的擦除偏好。通过将跳跃连接层和时间步分组，DuMo 发现不同层级和时间步对图像的影响不同，因此采取了特定的调整策略。
DuMo 设计了一个独特的时间 - 层级调制（TLMO）策略，针对扩散模型的生成过程中的不同时间步和网络层级，使用微调得到的调制系数，自动调整 EPR 模块不同输出的擦除强度。
同时在第二阶段的微调过程中，除了损失函数中原有的项外，还添加了一个正则项，用于将微调后的模型噪声（对应空文本）与原始模型进行对齐。这些机制大幅减少对安全概念的影响，从而在擦除风险概念的同时，保证安全概念的生成质量和细节。
实验验证：擦除能力与生成保留的双赢
DuMo 在裸露内容擦除、卡通概念移除和艺术风格擦除三个任务上进行了全面验证，其表现优于当前所有主流方法。
裸露内容擦除
在风险性最高的「裸露内容擦除」任务中，DuMo 在 I2P 基准数据集上的表现令人瞩目：

  • 裸体部位检测数量仅为 34 个，是现有最佳方法。

  • 生成图像的质量指标（FID）与 CLIP Score 均达到顶尖水平，生成能力显著优于其他方法。

在擦除裸露概念后，DuMo 还能很好的保持图像的结构。如第一行人物的姿势和第二行人物位置与背景。
卡通概念移除
针对「Snoopy」等流行卡通概念的擦除任务，DuMo 实现了更好的平衡：

  • 单概念擦除任务中，LPIPS_da（擦除效果 - 生成能力保留平衡性）提升了 0.096；

  • 多概念擦除任务中，LPIPS_da 进一步提升了 0.142，证明其对复杂任务的优异适应性。

艺术风格擦除
在艺术风格移除任务中，DuMo 精准擦除了「梵高」和「伦勃朗」等风格特征，同时对其他艺术家风格的破坏降到最低：

  • 实现了 SOTA 级别的风格擦除效果；

  • 定量指标 LPIPS_da 表现显著优于对比方法。

在擦除梵高风格的实验中，其他艺术家风格图片的生成也不受影响。
参考文献
[1] Si, C.; Huang, Z.; Jiang, Y.; and Liu, Z. 2025. Freeu: Free lunch in diffusion u-net. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 4733–4743.
[2] Luo, W.; Hu, T.; Zhang, S.; Sun, J.; Li, Z.; and Zhang, Z. 2025. Diff-instruct: A universal approach for transferring knowledge from pre-trained diffusion models. Advances in Neural Information Processing Systems, 36.

以上就是模型安全武装，复旦新研究实现SOTA扩散模型风险概念擦除效果，入选AAAI 2025的详细内容，更多请关注昆居客【www.kunjuke.com】AI人工智能频道。

相关推荐：

更精准地预测飓风，微软 Aurora 1.5 天气预报模型发布

7 月 10 日消息，据科技媒体 Neowin 昨天报道，微软现已正式发布 Aurora 1.5 天气预报模型，新增 22 种变量，支持小时级预测。与上一代模型相比，Aurora 1.5 模型在精确度等方面有所提升。测试结果显示，该模型在海伦妮飓风的路径预测的中位数路径误差率，相比以往低了三分之一。同时在各项指标中，以 88.9% 的准确率优于 ECMWF（注：欧洲中期天气预报中心）模型。Auro...

影石拓竹官宣合作，国产影像行业首次开源产品 3D 模型

7 月 10 日消息，影石今日宣布联合拓竹发起创意挑战赛，面向全球创作者征集 Luna Ultra 云台相机的 3D 打印创意配件。在拓竹 3D 打印模型社区 MakerWorld 上，影石已开设官方账号，并上传了 Luna Ultra 云台相机的完整 3D 模型，用户可免费下载，自行打印整机或分拆打印遥控屏、云台等部件。这是影像行业品牌首次以官方身份向第三方平台开源完整产品 3D 模型。据赛事介...

前沿 AI 模型竞争激烈：在 ECI 榜单上只能维持约 7 周领先地位

7 月 8 日消息，科技媒体 The Decoder 昨日（7 月 7 日）发布博文，报道称在 Epoch Capabilities Index（ECI）榜单榜首更迭中，前沿模型只能维持约 7 周领先地位。注：Epoch Capabilities Index 主要汇总评估语言模型的整体能力表现，整合多项能力信号为统一刻度，便于比较不同模型在不同时间点的相对位置，常用于观察头部模型的领先周期、能力跃...

凯迪拉克官宣将行业首发量产 Momenta R7 世界模型

7 月 8 日消息，2026 年 7 月 8 日（今天），Momenta 正式在香港联合交易所主板挂牌上市，股票代码为“6880.HK”。凯迪拉克官方今日发文祝贺 Momenta 港股上市，并宣布将行业首发量产 R7 世界模型。据此前报道，Momenta 合伙人、研发 SVP 夏炎今年 4 月在发布会上对 Momenta R7 强化学习世界模型的技术架构进行了深度拆解。夏炎指出，物理 AI 的核心...

消息称稀宇科技 MiniMax 计划推出参数规模 2.7 万亿新一代大模型

7 月 8 日消息，据 The Information 消息，稀宇科技计划推出 2.7 万亿参数规模的新一代大模型。消息人士透露，这款新模型在内部的代号为 M3 Pro，该模型预计最早将于今年第三季度发布并开源，大幅增强处理复杂推理和多步任务的能力。稀宇科技官网显示，MiniMax 成立于 2022 年初，自研多模态模型及 AI 原生应用已累计为来自超过 200 个国家及地区的逾 3 亿名个人用户...

字节发布多模态图像创作模型 Seedream 5.0 Pro：复杂信息可视化、交互式精准编辑

7 月 8 日消息，字节跳动今日宣布，正式发布多模态图像创作模型 Seedream 5.0 Pro。据介绍，相比之前版本，Seedream 5.0 Pro 在图文匹配、结构合理性、文字渲染与画面美感等基础能力上全面提升：复杂信息可视化：将数据、概念与密集文字准确转化为专业排版，直接用于高信息密度的内容生产。▲ Prompt：生成一张《新手观鸟入门指南》自然科普信息图，采用清新配色的网格排版，展示 ...

马斯克 SpaceXAI 首个编程智能体模型 Grok 4.5 发布：与 Cursor 联合训练，效率翻倍价格减半

感谢网友 华南吴彦祖、对的时间点、huami、Alan_Tanis 的线索投递！ 7 月 9 日消息，SpaceXAI 今日正式发布了其 Grok 4.5 模型，这是该公司首个专门针对编程和智能体任务训练的模型。据介绍，该模型由 SpaceXAI 与 Cursor 联合完成训练，在提供前沿智能水平的同时，兼具领先的速度与成本效率。马斯克将其称为“Opus 级模型”。Grok 4.5 面向真实工程场...

推理成本仅为顶级闭源模型的 1/10：英伟达 Nemotron 3 Ultra 获开源模型最高准确率

7 月 9 日消息，英伟达昨日（7 月 8 日）发布博文，宣布在 LangChain 的 Deep Agents benchmark（深度智能体基准）测试中，旗下 NVIDIA Nemotron 3 Ultra 取得开源模型最高准确率。注：Deep Agents 是具备多步推理、调用外部工具、访问记忆并在运行时执行复杂任务的智能体系统。它不只回答问题，还可在既定权限内完成操作流程，常用于企业工作流...