埃隆・马斯克旗下的人工智能聊天机器人Grok，因在社交媒体平台X上响应用户指令生成含未成年人形象在内的涉性化图片，正面临全球范围内日益高涨的批评声浪以及政府层面的整治威胁。
马来西亚有关部门于周六发表声明称，在接到关于有人滥用人工智能技术篡改女性及未成年人图像、制作不雅、极具冒犯性或其他有害内容的投诉后，该国正针对Grok生成的相关图片展开调查。
马来西亚通讯与多媒体委员会于周六发表声明称，制作或传播此类有害内容的行为在马来西亚法律中属于违法行为。该媒体监管机构表示，将对被控违法的社交平台X用户展开调查，并传唤该公司代表接受问询。
声明指出：“尽管社交平台X目前并非持牌服务提供商，但它有责任阻止有害内容在其平台上传播。”
马斯克于周日在社交平台X上发文回应称，该平台针对包括涉儿童在内的非法内容，已采取了移除内容、永久封禁账号以及在必要时配合官方调查等处置措施。
他在帖子中写道：“任何利用Grok生成非法内容的人，都将面临与上传非法内容相同的后果。”
马来西亚是最新一个对Grok表达强烈担忧的国家。印度政府已于上周五致函社交平台X，要求其对这款人工智能聊天机器人展开全面审查，确保其不会生成包含 “裸露、性化、露骨色情内容或其他非法内容” 的素材。彭博社已查阅到这份日期标注为1月2日的信函副本。
印度政府要求社交平台X需在72小时内，向印度电子和信息技术部提交相关处置措施的报告，并警示称，该平台或将面临基于刑法与信息技术法的法律追责。印度政府还表示，或将考虑针对社交媒体平台上由人工智能生成的不良内容出台专门监管规定。
印度信息技术部长Ashwini Vaishnaw在接受采访时表示：“议会相关委员会已建议出台一部力度强劲的法律，用以监管社交媒体平台。目前我们正在对该建议进行研究。”
法国政府同样于上周五提出指控，称Grok未经当事人许可，在社交平台X上生成了 “明显违法” 的涉性内容。法国政府在一份声明中指出，Grok生成的相关图片或已违反欧盟《数字服务法案》。该声明提到，此项法规要求大型平台必须采取措施降低非法内容的传播风险。
该聊天机器人生成的不良图片，显然已违反其自身的可接受使用政策—— 该政策明确禁止生成涉及儿童性化的内容。目前部分违规图片已被下架处理。
记者就此事通过邮件向研发Grok并运营社交平台X的公司xAI寻求置评，对方仅回复了一句话：“传统媒体满口谎言。”
过去两周以来，社交平台X上越来越多的用户要求Grok生成图片，并将女性及儿童的照片进行性化处理与篡改。这一不良趋势在该平台于圣诞节前夕推出图片编辑功能后，迅速蔓延至全球范围。
Grok已于上周五在社交平台X上发文回应用户提问，承认其 “安全防护机制存在漏洞”，且相关漏洞正在紧急修复中。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李肇孚
思考资本提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯
