悉尼·史密斯在玩Echo VR视频游戏的一个多月时间里，一直受到色情、性别歧视的评论。但这位20岁的女孩在今年夏天达到了极限。
Echo VR将玩家置于未来机器人的身体中，让他们参加一场类似于极限飞盘的零重力运动游戏。每个玩家的用户名都浮在他们的虚拟形象上，他们分成两队，当他们把圆盘扔进对手的球门时得分。
在7月份，Smith在使用Oculus Quest 2耳机玩游戏时错过了碟片，并因为受挫而说出了f字。一名之前一直在辱骂队友的球员很快注意到了这一点。这名球员嘲笑史密斯，告诉这位密苏里居民，他已经录下了她的声音，准备在她的咒骂声中“手淫”。
史密斯试图找出是哪个玩家骚扰了她，这样她就可以提交报告。但这很困难，天辰注册网址因为很多人同时在说话。由于她没有记录这场比赛，史密斯无法重新观看比赛并寻找用户名。
“这真的真的让我很困扰，”史密斯谈到这件事时说。“在那之后的两周内我都不能碰这款游戏。”
史密斯并不是唯一一个在报告一场丑陋的冲突时遇到麻烦的虚拟现实玩家。尽管Facebook旗下的Oculus和Echo VR都有办法举报违反规则的用户，但在虚拟环境中经历或目睹骚扰和冒犯行为的人表示，繁琐的程序让他们不敢举报。内容审核员必须检查一个人的行为，以及文字。(Oculus的虚拟现实政策规定，用户不得违背其他用户的意愿追随其他用户，不得做出性姿态，也不得阻止他人的正常动作。)
随着Facebook专注于创建一个元宇宙——一个人们可以玩、工作、学习和社交的3D数字世界——内容审核将变得更加复杂。该公司最近更名为Meta，以彰显其雄心。该公司已经在努力打击其流行社交媒体平台上的仇恨言论和骚扰，人们会在这些平台上留下自己言论的记录。首席执行官马克•扎克伯格设想的“地平线世界”(Horizon Worlds)等身临其境的空间将对监管更具挑战性。
本文部分依据的是前Facebook员工弗朗西丝•豪根(Frances Haugen)向美国证券交易委员会(sec)披露的信息。豪根的法律团队也将这些信息以编辑过的形式提交给了国会。包括CNET在内的新闻机构联合体收到了国会获得的文件的编辑版本。
Haugen说:“虚拟现实中的骚扰问题是一个巨大的问题。“将会出现一种全新的艺术形式，教你如何骚扰别人，而这些都是可信的推诿。”她说，这家科技公司需要雇佣更多的人，可能还需要招募志愿者，才能充分解决这个问题。
Facebook有超过4万名员工从事安全和保障工作。该公司没有详细说明有多少人致力于其VR平台。
1月28日，Haugen披露的一篇内部帖子显示，Facebook员工意识到虚拟现实报告系统的不足。
在这篇文章中，一名不愿透露姓名的Facebook员工报告称，他们戴着Oculus Quest头盔使用社交VR应用Rec Room时“玩得不开心”，因为有人在喊种族歧视的口号。该员工试图举报“偏执狂”，但提到无法识别用户名。该员工报告说，离开虚拟世界时“感觉受挫”。
《娱乐室》就是一个很好的例子，说明了元宇宙可能会变成什么样子。这款应用允许人们装扮自己的虚拟形象。用户可以聊天，创建或玩游戏，如彩弹，激光枪战和躲避球与其他娱乐室用户。
这位Facebook员工是首次使用Rec Room的用户，他没有说明为什么难以识别说话者。娱乐室的虚拟角色通过显示线路来表示他们正在说话。用户还可以在该应用的“人物”标签中查找对方的名字，并发起投票，将某人赶出房间。为了让另一个玩家静音，一个角色举起一只手。
在一封电子邮件中，Rec Room的首席执行官兼联合创始人尼克·法特表示，一名使用同样种族歧视言论的球员在收到其他球员的报告后被禁止参赛。法特认为被禁的玩家就是Facebook员工抱怨的那个人。
“我们希望Rec Room对所有人来说都是一个有趣且受欢迎的体验，我们花了很多时间构建系统并发展我们的审核团队来实现这个目标。然而，这里总是有更多的工作要做，我们计划继续大量投资来改善，”他说。
这篇内部帖子引发了106条评论。一名Facebook员工表示，在Facebook进行的一项调查中，Rec Room排名靠前，该调查旨在了解“应用程序层面的诚信问题/滥用互动的普遍性”。另一名员工表示，Echo VR在调查中排名也很高。
第三名员工表示:“我们在Echo VR中发现了类似的问题，虽然用户能够识别侵犯者，但有时评估虐待的人无法确定谁在说什么。”
Meta拒绝向CNET透露调查结果。
Oculus负责虚拟现实隐私和完整性的产品经理比尔·史迪威(Bill Stillwell)在一份声明中表示，该公司希望人们“感觉自己能够控制自己的虚拟现实体验，在我们的平台上感到安全。”
史迪威说，用户可以报告问题，开发者也有工具来管理他们的应用。“但工具总是可以改进的，”他说。“我们的工作不仅仅是确定适用于今天的技术，而是发明全新的工具来满足当前和未来生态系统的需求。”
Meta正在探索一种允许用户在其VR平台上追溯记录的方法。Meta的女发言人克里斯蒂娜·米利安(Kristina Milian)表示，该公司还在研究使用人工智能对抗虚拟现实中的骚扰的最佳方式。不过，该公司不能记录人们在VR中做的所有事情，因为这会侵犯隐私，还会耗尽耳机的存储和电力。据《金融时报》报道，将成为Meta首席技术官的安德鲁·博斯沃思(Andrew Bosworth)在3月份的一份内部备忘录中告诉员工，他希望虚拟世界拥有“几乎迪士尼(Disney)级别的安全”，但他承认，“在任何有意义的规模上，管理用户实际上是不可能的”。
网上骚扰仍然是一个大问题。皮尤研究中心(Pew Research Center)今年发布的一项研究显示，每10个美国成年人中就有4个经历过网络骚扰，而30岁以下的人不仅更有可能遭遇骚扰，而且更有可能遭遇更严重的虐待。Meta拒绝透露Oculus收到了多少骚扰或仇恨言论的报告。
2019年，Oculus研究人员进行的一项关于虚拟现实中的骚扰的研究还发现，在线骚扰的定义是高度主观和个性化的，但虚拟现实中的存在感让骚扰感觉更加“强烈”。
福利霍格律师事务所(Foley Hoag)律师、反名誉损害联盟(Anti-Defamation League)技术与社会中心(Center on Technology and Society)创始主任布里坦·海勒(Brittan Heller)表示，虚拟现实的本质将使控制用户行为变得困难。
海勒说:“虚拟现实中性骚扰的挑战在于它的存在。“感觉很真实，就像有人站在你身边，说着或做着侵犯你个人空间的事情。”
有毒的球员
Facebook并未开发《Rec Room》，但该游戏于2019年和2020年在Oculus Quest 2上发布。它也适用于其他平台，如微软Windows和PlayStation，所以Quest用户可能会通过其他服务与Rec Room用户进行互动。Oculus提供了一种举报违反规则用户的方式。但它只能对其平台上的用户采取行动。例如，它不能禁用来自其他平台(如Xbox或PlayStation)的帐户。
为了了解Echo VR和Rec Room的骚扰问题，我戴上Oculus Quest耳机，在11月访问了这两个虚拟世界。不久，我就遇到了有毒的行为。
在一个Echo VR大厅里，我无意中听到一名玩家对另一名用户说:“去把你的鸡巴塞进你的喉咙里吧”，然后施虐者就完全消失了。另一天，我听到两个玩家在互相叫唤，但我离得太远，看不清他们的用户名。当我飞得更近的时候，它们飞走了，这让我很难看清是谁在说话，甚至当一个声音图标出现在一个机器人的头上。
在《Rec Room》中，一名玩家开始用五彩纸屑射击其他人，包括我的女性角色，并大喊“你现在是同性恋了!”该中心的其他用户举报他违反了该应用的规则。
VR的部分挑战在于，玩家对环境还很陌生。他们必须学习如何握住一个物体并移动。如何举报虐待玩家或寻找安全工具并不容易。
这两款游戏都鼓励用户善待彼此，天辰注册网址并在海报上展示他们的行为准则。他们也有版主。Echo VR教新用户如何静音其他玩家和设置个人气泡。你也可以通过改变音调来掩饰自己的性别。这款游戏没有提供报告其他玩家的教程，不过可以通过博客在网上找到相关信息。Rec Room有YouTube教程来报告和静音玩家。
去年11月，Rec Room开始测试自动语音调节功能。Rec Room在一篇博文中说，用户可能会开始注意到，“大声喊出种族歧视言论的人很快就会被静音，或者对周围所有人发表露点性言论的人会被送回宿舍。”
警察手势,行为
德克萨斯州36岁的杰森·莱蒙(Jason Lemon)表示，虚拟现实中的口头骚扰和种族歧视与主机游戏中的类似欺凌没什么不同。
“Echo VR的不同之处在于你可以推迟的行为习惯和肢体语言，”身为黑人的莱蒙说。他认为个人泡泡应该被自动激活，即使用户在进球后，在一段死气沉沉的时间里，当他看到球员和别人做爱或做出性姿态时，并没有打开这个功能。
17岁的西奥·杨(Theo Young)说，去年春天，他开始注意到Echo VR的社会游说团体中出现了更有害的行为，包括仇视同性恋的语言。杨已经玩够了Echo VR，达到了游戏的最高水平。他说，当他看到其他玩家骚扰一名女性玩家时，他就停止了游戏。这名爱荷华州的居民说，他试图告诉这名女玩家如何静音或让其他人消失，但她听不见他的声音，因为所有尖叫的用户都聚集在她周围，对她发表性评论。
“这就是让我感动的部分。光是看到其他人都很难过，”杨说。“在那次经历之后，我很难再玩游戏了。它不再有趣了。”
至于Smith，她认为Echo VR应该有一个打击系统，一种通过指向玩家来识别他们的方式，或者让角色看起来不一样的功能，这样每个人都不像一个机器人。
“公司需要站出来，想出新的方法来缓和和帮助我们，”她说，“因为我们才是受到骚扰的人。”
