卡通化的深度假货

多年来，专家们一直警告说，Deepfake-人工智能生成的视频，图像或录音，人们做或说他们在现实生活中实际上没有做过的事情-可能会以恶意的方式部署。这些危险现在就在这里。Deepfake技术的改进，以及易于使用和廉价（或免费）的生成模型的广泛可用性，使得任何人都比以往任何时候都更容易以越来越难以发现的方式伪造现实。我们不仅仅是在谈论，已经占领了互联网的经常明显虚假的内容。相反，武器化的deepfake从色情图片到诈骗帖子到政治宣传可能看起来令人震惊的真实。世界各地已经有了他们的思想（和）和的例子。这就是为什么专家担心武器化的深度造假将进一步削弱批判性思维技能以及我们对机构和彼此的信任。这对社会和治理产生了可怕的影响，当然，也对目标人群产生了可怕的影响。与技术危害的许多其他例子一样，人类的影响将对女性和边缘化群体造成不成比例的影响;尽管技术在过去几年中不断发展，但2023年发现98%的深度造假本质上是色情的，99%的深度造假是女性。带上Grok就行了。自埃隆·马斯克（Elon Musk）去年年底推出这款人工智能聊天机器人的“编辑图像”功能以来，用户已经创建了数百万张性感图像，其中包括许多儿童和妇女;据估计，Grok制作的这些图像中有81%描绘了女性。尽管受到广泛批评，xAI的最初反应是将该功能限制在付费会员内;此后，它在非法的司法管辖区阻止了裸体功能。政治深度造假也激增。例如，特朗普政府定期制作和分享人工智能生成的图像和视频。并非所有这些都是为了看起来真实的，但其他一些似乎是为了影响公众舆论，甚至羞辱人

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。