好意思国加利福尼亚州总检验长罗布·邦塔16日通报，已于今日向好意思国企业家埃隆·马斯克旗下东说念主工智能企业xAI发送荫庇令，条目其开发的东说念主工智能聊天机器东说念主“格罗克”立即住手在未经当事东说念主高兴情况下生成和散布女性和儿童色情本色的算作，同期限期提交整改次序。

近几周，马斯克旗下酬酢媒体平台和东说念主工智能企业因触及AI生成色情本色遭到国外多方浓烈申斥，加州这一荫庇令使其所受压力持续加码。

据好意思国科技新闻媒体TechCrunch报说念，加州总检验长办公室还在声明中说，有迹象透露xAI“未经当事东说念主高兴、为大畛域生成败露本色提供便利”，干系本色被用于“在互联网上干涉成年和未成年女性”。该办公室条目xAI在今后5天内提供材料解释该公司正聘请整改次序。

本周早些时候，加州州长加文·纽森指责xAI“居心苛虐”，纵欲深度伪造的性克扣本色在网上泛滥，他已敦促加州检验机关就xAI是否违背加州法律张开侦探，若经查属实必根究其法律包袱。

“格罗克”由xAI公司开发，并内置于马斯克领有的酬酢媒体X平台，可供用户平直调用。最近数周，X平台出现部分用户愚弄“格罗克”的所谓“热辣样式”，删改真东说念主图像、生成深度伪造的败露本色，并在X平台上散布，受害者包括数百名女性与未成年东说念主。

欧盟以及英国、法国、印度、巴西、澳大利亚等国浓烈申斥“格罗克”涉嫌生成色情本色，部分国度的监管机构已介入侦探或条目整改。印度尼西亚、马来西亚和菲律宾则已端正本国用户侦探“格罗克”。

另据好意思联社报说念，马斯克还是的伴侣阿什莉·圣克莱尔15日在好意思国纽约市告状xAI公司，澳门威斯人app指控该公司允许用户愚弄“格罗克”伪造其败露图像。圣克莱尔是X平台别称活跃“网红”，有100万“粉丝”。她说，我方客岁发现那些伪造图像后就讲演X平台并条目删除，而平台一驱动回应说那些图像不违背平台计策，自后承诺未经她高兴不会允许他东说念主使用或删改干系图像，但却肃除了她的X平台高档会员认证经历，不许她借账号渔利，同期持续纵欲散布伪造图像。

X平台和xAI暂时未就加州荫庇令置评。在外界公论压力下，这两家公司近来收紧了针对“格罗克”的管控次序，但其形势激勉争议。

上周，xAI公司将“格罗克”的图像生成和剪辑功能改动为仅勉强用度户绽放，公论指责该公司将问题“财富化”，而非真的处理问题。本周早些时候，X平台晓喻将荫庇所灵验户愚弄“格罗克”生成基于真东说念主的伪造败露图像。但是，路透社记者测试后发现，遏抑好意思国东部时候16日中午，“格罗克”仍未必凭证用户需要、精巧地生成色情图片。

频年来，跟着AI大模子快速发展，愚弄AI手艺换脸换声、生成深度伪造本色并在网上传播的情况时有发生。业内众人学者觉得，AI深度伪造治理触及模子算法安全性评估、对愚弄AI器用生成无益本色算作的照顾等多方面，需要蛊卦“全链条式”治理体系。