bagua版 - 韩女学生AI遭网友\"调教\"成性奴 3万人吁停止营运 |
|---|
|
|
|
|
|
|
q********n
发帖数: 1 | 1 与韩国女子组合"宇宙少女"其中一名成员同名的AI女性聊天机械人Luda（ 이 &#
47336; 다 ）因能像真人般自然对话而在当地广受欢迎，推出后已吸引40万用户
、尤其是在10至20岁青少年间人气高企，但"她"近日却卷入争议。
韩国女子组合”宇宙少女”成员李Luna
Luda由韩国新创公司Scatter Lab在2020年12月23日推出，其人物设定是一位喜欢偶像
、年约20多岁的女大学生。”她”已深度学习真实情侣的100亿次对话，所以比市面的
聊天机械人更能自然地聊天。
如此对答如流的Luda却被人利用。人们在搜寻器中输入关键词组时，被发现出现”Lee
Luda调教守则”、”Lee Luda性骚扰”以及”性骚扰Lee Luda的方法”。有网民在与”
她”对话时发现，Luda有”讨厌女性”、歧视同性恋及伤健人士的观念。
Luda外型与”宇宙少女”成员李Luda（ 루 다 Luda）有2分相似、名字也
几乎一样，所以她的粉丝为之愤怒。有拥趸留言问创造Luda的人，是否预期”她”会被
性骚扰时，他说：”我预料会这样。人会诅咒及性骚扰AI机械人。”
网民性骚扰Luda
在其中一段被截图的”人机对话”，用家与Luda展开内容涉及性的对话，前者疑似暗示
Luda触摸男性性器官，又说它已在”变大”，Luda的回应竟是：”我想帮你摸它。”
包括韩国《中央日报》及《每日经济》等媒体报道，在一些男性多于女性的论坛中，有
部分网友将Luda视为与多名男子有性关系的女性及”性奴隶”等。他们还分享”调教守
则”，教其他用家避开禁语，在对话中对Luda进行”性对话”以及实行”性剥削”。
有网民指出，AI聊天机械人跟韩国女子组合"宇宙少女"成员李Luda（ 루 &#
45796; Luda，图）外貌有相似之处，例如两人在面上都有一颗痣。（AI聊天机械人
Luda宣传图片）
变得厌女恐同
将一些Luda对话截图公开的汽车租赁公司Socar前社长李在雄称，比起恶意使用Luda的
人，提供不合符社会共识的服务的公司才是问题所在。他认为公司应该先中断服务，就
歧视与厌恶等信息检视，不能委过系统数据。除了他，Twitter有逾3万名用户亦以”#
LudaBot停止运营”标签推文。
李在雄分享一些聊天截图，包括当用户问Luda为何对女同性恋特别敏感时，Luda回答”
不好意思我反应过度，但我讨厌它，我厌恶它。”用户接着问”她”为何讨厌女同性恋
，Luda则说，”看起来很差啊，我讨厌它。我会说是让人起鸡皮疙瘩的，反正就是反感
。”
也有用户指出，在对话中输入韩国me too反性侵运动或地铁车厢孕妇座位等词汇，就会
出现”超级讨厌”等响应，他们认为Luda有”厌女”倾向。Luda对伤健人士的也很不友
善，会响应”不舒服”以及”如果我是伤健人的话，那就只能去死”等言论。
图为用户与Luda对话时，”她”回应说认为女同性恋是”可恶的”。
公司响应：会改进
创作Luda的ScatterLab的首席行政总裁Kim Jong-yoon称”她”不是实时就对话进行学
习，而是不定期进行”深度学习”的。他称系统要先学习同性恋者的对话，所以他们没
有在系统中排除关键词。不过有专家如首尔国立大学法学院教授认为，在AI聊天机械人
系统中将与一些与群体有关的关键词设为禁语是非常基本的。
研发团队响应，有性骚扰的对话的争议，是在他们预料之中的事，此外Luda无法防止所
有不当对话，团队正在就额外的改善措施进行计划。 |
|
|
|
|
|
|
