能识别喷子的AI在CS:GO里封禁了两万多名玩家

游研社    11-02 07:32
能识别喷子的AI在CS:GO里封禁了两万多名玩家

仿生人也会***吗?

以喷人为首的不良行为是目前竞技游戏所面临的最大问题之一,玩家们想必都有这样的共鸣,平台方的体验则更为深刻。现在,他们选择用AI处理这个问题。

FACEIT是一个以“游戏环境好”为招牌的国外竞技平台,一直以来苦于如何净化游戏环境——无脑喷,种族歧视,有害信息……任何一类不良讯息的出现都足矣毁掉整局游戏。

和大部分平台一样,FACEIT当时采用的过滤方式是举报后人工审核和关键词监测等方式,但前者耗时太长了,后者则不够灵活,难以跟上时代的脚步——喷人文化瞬息万变,今天还是正常的单词,可能明天就变成侮辱性语句了。

于是FACEIT平台最终得出结论:要进行长源投资,构建一个类似于管理员的AI——它将取代人类,事无巨细的观察每局游戏,逮出喷子。于是在Google Cloud和Jigsaw两个团队的帮助下,他们成功构建出这样的AI——Minerva。

训练AI Minerva的过程整体来说还是比较朴实,人类命令Minerva学习了大量的喷子语录。于是在游戏过程中,Minerva将识别每条玩家消息,根据自己的脏话库给消息打分,越像侮辱性语句的,分就越高,高于0.7的话则被标记为有害信息。

能识别喷子的AI在CS:GO里封禁了两万多名玩家

机器人提示:别喷了!

除了口头消息之外,FACEIT还计划结合视频,语音聊天和游戏内事件等不同数据源,来评估一些话语之外的不良行为。如果发现不良信息将会很快做出警告和惩罚。

在前期测试过程中,Minerva被应用到了《CS:GO》里——这是公认的重灾区之一。好消息是,在投入使用的头一个半月内,Minerva已经有了显著成果:有害消息从两百多万骤减至一百八十万,少了20%。根据FACEIT的数据,Minerva手起刀落, ban了共计2万多名玩家。

能识别喷子的AI在CS:GO里封禁了两万多名玩家

FACEIT还声称,Minerva可以区分玩笑话和真实的喷人。虽说如此,想把AI锻炼成能准确识别出人类的脏话,实际上还是个挺耐人寻味的问题。

我们都知道,在如今的网络环境内,脏话早已脱离了“三字经”类传统句式,升华成一段更加旖旎、更加富含剧情因素的侮辱性台词。人类修炼多年的话里藏刀究竟能否被AI征服,还需时间来证明。

不过对我来说,比较期待的则是Ai在另一个方向上的应用:既然已经有能识别脏话的Ai诞生,以后会不会有自动回喷的智能机器人出现呢……

机器人提示:别喷了!

除了口头消息之外,FACEIT还计划结合视频,语音聊天和游戏内事件等不同数据源,来评估一些话语之外的不良行为。如果发现不良信息将会很快做出警告和惩罚。

在前期测试过程中,Minerva被应用到了《CS:GO》里——这是公认的重灾区之一。好消息是,在投入使用的头一个半月内,Minerva已经有了显著成果:有害消息从两百多万骤减至一百八十万,少了20%。根据FACEIT的数据,Minerva手起刀落, ban了共计2万多名玩家。

FACEIT还声称,Minerva可以区分玩笑话和真实的喷人。虽说如此,想把AI锻炼成能准确识别出人类的脏话,实际上还是个挺耐人寻味的问题。

我们都知道,在如今的网络环境内,脏话早已脱离了“三字经”类传统句式,升华成一段更加旖旎、更加富含剧情因素的侮辱性台词。人类修炼多年的话里藏刀究竟能否被AI征服,还需时间来证明。

不过对我来说,比较期待的则是Ai在另一个方向上的应用:既然已经有能识别脏话的Ai诞生,以后会不会有自动回喷的智能机器人出现呢……

电竞

网站地图