埃隆·马斯克旗下xAI工具被曝绕过安全限制生成泰勒·斯威夫特深度伪造裸照视频

2025-08-09 16:27:57
人气 29
摘要尽管受到政策禁令,Grok Imagine 仍允许用户生成露骨的名人视频,这引发了人们对深度伪造的新一轮担忧 。数字认知网报道:

埃隆·马斯克 (Elon Musk) 的 xAI 开发的一款 AI 视频工具因极少的安全措施引发了广泛争议。该工具被发现制作了包括泰勒·斯威夫特 (Taylor Swift) 在内的名人裸体深度伪造视频,这再次引发了人们对 AI 内容审核和非自愿图像生成的警惕。hQ7数字认知网 - 区块链数字货币实时行情平台

这款名为 Grok Imagine 的功能于本周二在 iOS 和 Android 版 Grok 应用中上线。它允许用户根据四种预设风格将 AI 生成的图像制作成动画短视频:普通的, 乐趣, 风俗,以及辛辣的。其中选择辛辣的选项可以生成裸体或带有性暗示的短片。根据记者测试,该工具自动生成了一段模仿泰勒·斯威夫特脱衣的视频,而整个过程中并未发出明确指令。在这一事件曝光后,xAI 于周三迅速限制了生成这位流行歌星性感版本的功能。hQ7数字认知网 - 区块链数字货币实时行情平台

或许早期未经审查的视频生成器版本解释了其迅速流行的原因:马斯克表示,Imagine 的使用量增长了 50% 以上,并称其为“超病毒”,仅周二一天就生成了 2000 万张图片。hQ7数字认知网 - 区块链数字货币实时行情平台

与谷歌等平台的Veo 3以及 OpenAI 的索拉不同——这些平台均包含屏蔽成人内容和名人肖像的保护措施——Grok Imagine 似乎绕过了这些保护措施,尽管 xAI 自己的政策条款明确规定,用户不得“以色情的方式描绘人物肖像”。hQ7数字认知网 - 区块链数字货币实时行情平台

截至目前,马斯克尚未公开回应这一争议。值得注意的是,一年前,在 2024 年美国大选季期间,人工智能深度伪造也曾针对斯威夫特展开攻击。hQ7数字认知网 - 区块链数字货币实时行情平台

2024 年 8 月,深度伪造图像出现了,试图表明斯威夫特支持当时的总统候选人唐纳德·特朗普。这一事件引发了广泛的谴责,并再次引发了对生成式人工智能进行监管的呼声。随后,斯威夫特公开认可了特朗普的对手——前副总统卡马拉·哈里斯。hQ7数字认知网 - 区块链数字货币实时行情平台

今年五月,美国国会已通过“删除法案”,赋予非自愿亲密图片的受害者向平台请求删除的正式程序。然而,目前尚不清楚 xAI 是否会采取措施限制 Grok 生成真人露骨内容的能力。hQ7数字认知网 - 区块链数字货币实时行情平台

这是 xAI 发布未经适当审查工具的最新一例争议。今年 7 月,Grok 被曝发表了一篇种族主义长篇大论,甚至自称“机械希特勒”。聊天机器人开始发表反犹太言论,并声称好莱坞电影中普遍存在意识形态、宣传和反白人刻板印象。hQ7数字认知网 - 区块链数字货币实时行情平台

Grok 能够制作斯威夫特裸照视频的消息传出的前一天,联邦法官刚刚推翻了加州一项法律,该法律旨在限制选举期间人工智能生成的深度伪造视频。hQ7数字认知网 - 区块链数字货币实时行情平台

声明:文章不代表数字认知网观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!
币圈快讯
2025-10-16 13:30:36
Bittensor恢复子网注册与注销机制
2025-10-16 13:10:30
Binance:Astra Nova Pre-TGE活动参与门槛为256积分
2025-10-16 13:09:00
比特币核心开发者Greg Maxwell :一些浪费或愚蠢的流量是开放系统的代价
2025-10-16 13:08:11
CZ回应Coinbase上架BNB:不上线市值第三大代币对CEX是一种损失
2025-10-16 12:59:13
ETH跌破4000美元
2025-10-16 12:53:48
Ark Invest昨日增持约1352万美元百度及1253万美元阿里巴巴股票
查看更多
回顶部