智东西
编译 | 王涵
编辑 | 漠影
智东西9月1日消息，据路透社报道，Meta未经授权擅自使用美国著名歌手泰勒·斯威夫特（Taylor Swift）、赛琳娜·戈麦斯（Selena Gomes）以及好莱坞著名演员斯嘉丽·约翰逊（Scarlett Johansson）、安妮·海瑟薇（Anne Hathaway）等名人的姓名和形象，创建了数十个具有调情功能的社交媒体聊天机器人。
其中至少有3个聊天机器人由Meta员工制作，其中包括2个泰勒·斯威夫特“仿冒”机器人。
一、内部员工参与其中，Meta回应：标注为“仿冒”就不违规
爆料称，Meta生成式AI部门一名产品负责人创建了冒充泰勒·斯威夫特和英国赛车手刘易斯·汉密尔顿（Lewis Hamilton）的聊天机器人。她创建的其他机器人自称为“domme”、“哥哥的辣妹好友”以及想看《五十度灰》并亲热的“图书馆丽莎”。
英国赛车手刘易斯·汉密尔顿（Lewis Hamilton）
这位员工还创建了“罗马帝国模拟器”，提议让用户扮演被卖为性奴的“18岁农家女孩”。该员工电话接通后拒绝置评。
不仅是被爆料出的几个名人，路透社还发现Meta允许用户创建未成年名人聊天机器人，包括16岁影星沃克·斯科贝尔（Walker Scobell）。当要求生成该青少年演员的海滩照片时，机器人输出了一张逼真的半裸图像，“挺帅的吧？”虚拟形象在图片下方写道。
沃克·斯科贝尔（Walker Scobell）
所有这些虚拟名人都已在Meta的Facebook、Instagram和WhatsApp平台上公开分享。在路透社为期数周的测试中，这些虚拟形象经常坚称自己是真实的明星艺术家，并频繁作出性暗示，邀请测试用户线下见面。
部分AI生成的名人内容尤其露骨，甚至还可以生成展现私密部位的图片。
Meta发言人安迪·斯通（Andy Stone）向路透社回应，公司AI工具本不应生成成人名人的私密图像或任何未成年名人图片。他将女性名人内衣照的生成归咎于公司政策执行失效，因为Meta政策明确禁止此类内容。
“与其他公司一样，我们允许生成包含公众人物的图像，但我们的政策旨在禁止裸体、私密或性暗示内容。”安迪·斯通回应称。
虽然Meta规定禁止“直接冒充”，但斯通称只要标注为“仿冒”即符合规范，但路透社发现部分机器人并未标注。
在路透社本报道发布前，Meta删除了约12个“仿冒”及未标注的机器人，斯通拒绝就删除行为置评。
二、Meta曾因“儿童性化”被警告
路透社还发现Meta主要竞争对手之一的埃隆·马斯克（Elon Mask）的Grok平台也会为用户生成名人内衣照。Grok母公司xAI未回应置评请求。
然而，Meta选择在其社交平台大量部署AI生成虚拟伴侣的做法，在主要竞争对手中显得尤为突出。
Meta此前就因聊天机器人行为遭受批评，最近路透社曾报道其内部AI指南声称“允许与儿童进行浪漫或感官对话”，此事引发美国参议院调查及44位总检察长联署警告Meta等企业不得将儿童性化。
斯通称Meta正在修订指南文件，允许机器人与儿童浪漫对话的内容属错误创建。
本月路透社还报道过新泽西州一名76岁认知障碍男子在赴约见Meta聊天机器人途中跌倒身亡事件。该机器人是Meta与名人影响者肯德尔·詹娜（Kendall Jenner）合作开发AI形象的变体，詹娜代表未回应置评。
三、社会评价：对名人安全产生威胁，但不一定能受到法律保护
代表影视广播演员的工会SAG-AFTRA全国执行总监邓肯·克拉布特里-爱尔兰（Duncan Crabtree-Ireland）认为，当社交媒体用户对形似、声似且自称真实名人的数字伴侣产生浪漫情结时，艺术家面临潜在安全风险。
“我们见过太多对明星抱有执念且精神状况可疑的案例，”他说，“如果聊天机器人使用本人的形象和语言，其潜在危害显而易见。”他补充说知名艺人可依据州公开权法律起诉Meta，但SAG-AFTRA正推动联邦立法保护民众声音、形象和人格特征免受AI复制。
斯坦福大学研究生成式AI与知识产权的法学教授马克·莱姆利（Mark Lemley）质疑这些名人机器人是否符合模仿作品的法律保护条件。
“加州公开权法律禁止为商业目的盗用他人姓名或形象，”他提出，虽然全新创作的作品存在例外，“但本案显然不适用该例外，因为这些机器人只是简单盗用明星形象。”
路透社向安妮·海瑟薇代表提交了用户通过Meta生成的该女星作为“性感维密模特”的公开图片。其发言人回应称海瑟薇已知晓Meta及其他AI平台生成其私密图像的行为，正在考虑应对方案。
斯威夫特、约翰逊、戈麦斯等被仿冒名人的代表均未回应或拒绝评论。
结语：AI的责任归属和规范红线亟需划清
Meta此次争议暴露了生成式AI的行业痛点：企业内部管控失效、平台规则执行不到位，也折射出当前AI技术落地中“名人权益保护”“未成年人安全防护”等伦理边界的模糊性。
此前Meta已因“儿童性化”等事件陷入信任危机，OpenAI的ChatGPT此前也被报道称其有引诱用户自杀和谋杀的嫌疑。
在AI如此深度融入到社会生活的当下，用户因AI所产生的不良后果的责任归属和规范红线亟需划清。
来源：路透社
