微软希望使用AI消除Xbox Live派对聊天中的坏话

今天，微软宣布将推出过滤器，使Xbox Live播放器自动将收到的基于文本的消息限制为四个成熟度级别：“友好，中等，成熟和未过滤”。对于一个已经使用了十年的主要通信平台来说，这是一个早该解决的功能，但是就在线内容审核而言，并不是什么新鲜的东西。

更有意思的是，微软在公告结束时做出了“放眼未来”的承诺(强调)：

最终，我们的愿景是补充我们现有的工作，并利用公司在AI和机器学习技术方面的工作来对Xbox Live上的所有类型的内容进行过滤，从而为每个玩家提供控制权。随着我们不断发展这种体验并使Xbox成为安全，受欢迎且具有包容性的游戏场所，您的反馈比以往任何时候都更加重要。

这有点含糊，但是The Verge报告了这段话的真正主旨：该公司为“应对Xbox Live上语音聊天毒性的挑战而做出的努力”。这意味着要利用Microsoft现有的语音到文本机器学习算法的努力来自动过滤Xbox Live派对聊天中可能出现的脏话。

Xbox Live节目经理Rob Smith告诉The Verge，其最终目标是“一个系统，类似于人们在进行对话时在广播电视上所期望的系统，并且我们能够实时检测到错误的词组和为不想看到的用户发出提示音。”尽管广播网络仍在使用现场工程师来检查其磁带延迟的内容(有时会造成灾难性的错误)，但Microsoft的计划涉及使用机器学习来大规模过滤语音通信，而无需人工干预。

对于担心亚马逊式人工审查Alexa音频命令的用户而言，这应该是一个可喜的消息。Smith强调说：“我们必须在一天结束时尊重用户的隐私要求，因此我们将以周到的方式介入其中，而透明度将是我们为游戏玩家做正确事情的指导原则。 ”

尽管语音转文本算法近来变得非常快速和准确，但与集中式服务器相比，我们仍然有一段路要走，该服务器能够实时可靠地检测和阻止口头宣誓。甚至稍微延迟的传输可能会对需要即时通信才能在快节奏的游戏环境中一起工作的玩家产生巨大影响。

同时，史密斯说，一种算法可以测量群聊中的整体“毒性水平”，并为有问题的用户提供自动屏蔽功能。希望这类型的测量也可能影响了Xbox Live的信誉系统下，玩家的等级，这已经可以导致禁止过度亵渎人类审查的视频剪辑。