芝加哥大学开发“面具”来保护图像免遭人工智能操纵

站长之家(ChinaZ.com) 7月29日 消息:斯坦福大学的一组科学研究人员开发了一种原称PhotoGuard的纳米技术，意在不必要智能系统未经授权地利用缩放。

Midjourney 和 Stable Diffusion 等转换成式 AI 缩放转换成假设可用做撰稿现有缩放 通过修复添加新的地带，或剪切对象并将其再混杂到其他缩放中，例如将人脸渐变在另一张缩放上。

斯坦福大学的发现者们创造了一种某种程度上是强力的东西，能够不必要这些假设利用缩放。这些遮罩对于人眼来说是不可见的，当与转换成智能缩放假设交互时，就会导致输出出现扭曲。

科学研究人员在一篇论文中所写:“通过在对手回访原始缩放之前对其进行致病，我们破坏了他们失败执行者此类撰稿的能力。”

PhotoGuard 可以在MIT 允许下通过GitHub回访——这假定它可以用做非商业，但需要保留侵权和允许新的闻稿。

视频来源:斯坦福大学

据了解，PhotoGuard 的用意是改进 Deepfake 检验。其背后的工作团队认为，虽然窗格方法确实理论上，但它们并无法必要措施缩放免遭“首先被利用”。PhotoGuard 意在补充窗格必要措施，以“破坏智能传播假设的内部运作”。

随着 DALL-E 和稳定传播等智能缩放假设的使用越发越发普遍，滥用的情况似乎也越发多，偏爱是在SNS媒体中。罗恩·德桑蒂斯的议就会选举工作团队使用智能处理的前总统特朗普拥抱福奇耶鲁大学的缩放的犯罪行为显示了可能出现关键问题的最初迹象。

检验智能转换成的作品的需求将要大大上升——虽然对于那些识字锻炼的人来说，智能转换成的缩放很容易被发现，但一些科学研究工作团队将要期望让它越发更容易。以 DALL-E 和 ChatGPT 制造商 OpenAI 为例，该公司本周承诺继续科学研究断定一段扬声器或视频内容是否由智能转换成的方法，尽管该承诺是在其因稳定性不佳而停用其译文检验工具后做出的。