多个网站开始自查和清理相关内容

据新华社电 近日,一些以艾莎公主、米老鼠、蜘蛛侠等儿童熟悉的卡通角色为主角,经过“二次创作”的“邪典动画片”,甚至真人扮演的视频短片,通过互联网流入国内多家视频网站,其中充斥大量含有血腥暴力、恐怖、虐待、色情等内容。

北京市文化执法总队22日发布了关于查禁“儿童邪典视频”工作的紧急通知,提出查禁“儿童邪典视频”,要求相关内容一律下线,进一步加强和规范网络游戏市场管理秩序。

全国“扫黄打非”办公室22日说,已部署深入监测和清查;同时,多个网站开始自查和清理相关内容。

敦促网站自查 发现违规作品即下架

“邪典动画片”、即所谓“艾莎门”现象源于国外,除了一批居心叵测的“搬运工”把国外丑恶视频转载至国内平台并翻译成中文,国内如今出现了一些“本土化”制作的版本。

北京市文化执法总队的通知指出,为营造健康清朗的网络空间,保护未成年人,各视频网站立即对涉及未成年人视频作品开展自查,包括动画片、儿童剧、COSPLAY人偶剧、橡皮泥人偶剧、少儿游戏讲解视频等,发现上述违规内容作品一律下线。

通知还提出,各游戏研发、运营企业不得研发、运营含有上述邪典视频内容的网络游戏及其衍生产品,发现含有上述内容的游戏立即下架停止运营并向执法机关报告。

“有毒”视频昨日仍能搜到

20日,优酷、爱奇艺等平台发布声明称,成立技术、运营等部门组成的专项行动小组,对相关有害视频进行严格筛查、屏蔽,集中删除处理。然而,记者23日在相关平台搜索“天线宝宝”“小猪佩奇”等关键词,仍能发现一些“有毒”视频。

据了解,这些“毁三观”的“有毒”视频包含一些在国外网站上下架的禁播视频,却在数月后流入国内视频网站。这些视频究竟是如何通过审核的?面对记者函询,截至23日18时,爱奇艺、优酷方面并未做出回应。

腾讯视频23日回应,打击“毒动画”,腾讯应用了音视频指纹、ES搜索等技术,以快速处置有害视频。

“针对少儿内容,我们将重新制定审核标准和尺度,”腾讯视频表示,“我们将运用人工智能(AI)学习有害的视频样本,打击后续有害内容的上传和传播。”

海

外

美国去年也在声讨“毒动画” “优兔”被迫加强人工审核

然而,暂时无法实现全人工过滤……

在西方,“毒动画”获称“艾莎门”,主要指视频分享网站“优兔”(YouTube)上的儿童不宜视频。它们大多由成年人制作,以经典卡通形象诱使儿童点击观看,内容却包含血腥、暴力、色情或诡异情节。2013年,迪士尼动画片《冰雪奇缘》女主角艾莎公主常出现在这类视频中,因而有人把艾莎与用以描述丑闻事件的后缀词“门”(gate)组成新词,即“艾莎门”(ElsaGate)。

疲于“打地鼠” 筛查有难度

为进入搜索结果并引起用户注意,这类视频的标题和描述常包含卡通形象名称及“教育”“学习色彩”“童谣”等关键词。一些时候,它们能规避优兔内置的儿童安全算法,进入颇受家长信任的优兔儿童频道。

“‘艾莎门’欺骗性地让儿童、家长和管理工具相信它们是‘儿童友好型’内容,让人相当不安,”美国技术伦理学者戴维·瑞安·波尔格22日接受新华社记者采访时说,“儿童在观看他们喜爱的卡通形象做出猥亵或暴力行为后,可能遭受心理创伤。”

长期以来,技术企业尝试借助审核人员和人工智能算法筛查并删除儿童不宜视频。但是,波尔格解释,这就像玩“打地鼠”游戏,要逐一打掉那些冒出头的不良视频,作业量相当大。

对“艾莎门”的批评声最早在2016年年中出现。一年后,它成为美国社交媒体“推特”上热门的主题标签。美国社交网站“红迪”(Reddit)创建“艾莎门”社区讨论平台,吸引数以万计用户参与。

潜藏利益链 投入需加大

据了解,“毒动画”的恶意背后潜藏一条外人难见的利益链条。

视频网站业内人士说,优兔等国内外视频网站通行规则是,只要视频点击达到一定数量,就可以在视频上附加“贴片广告”,上传者获得一定分成,网站自身同样可以获利。

争议中,一些广告商发现自身广告出现在“毒动画”上,与品牌定位相悖,开始暂停向优兔投放广告。压力之下,优兔总裁苏珊·武伊齐茨基去年12月宣布,将投入更多人力筛查视频内容。2018年,优兔所属谷歌公司的内容审核人员将增至至少1万人,同时开发新的人工智能算法,与儿童安全机构合作。

优兔一名发言人22日回复新华社记者提问,在电子邮件中声称:“过去几个月,我们有意识地采取措施,解决优兔家庭内容视频面临的诸多新挑战,包括更严格执行我们的社区指南、对不当定位至家庭的内容‘去货币化’并采取年龄限制,同时把这些内容从优兔儿童频道中删除。”

这名发言人说,优兔将致力于“正确解决难题”,投入人力和工程资源,以应对不断变化的环境。

明确告知孩子这类视频不能看,如同告诉孩子‘不能喝酒’”。

——心理咨询师高璇

“

防

控

儿童心理专家:风险可控 家长不必过于恐慌

发现孩子接触过“毒动画”该怎么办?

至少暂时无法实现全人工过滤,家长该如何应对?从事儿童发展心理学和早期教育研究的心理咨询师高璇告诉新华社记者,低幼儿童接触“毒动画”的风险可以防控,家长不必过于恐慌。家长必须担负呵护责任,不应把孩子交给“电子保姆”。

“首先,如果家中平时沟通氛围较好,孩子看到没有见过的画面时,通常会问家长‘这是什么’,引起家长警惕。第二,媒体中的暴力色情画面让孩子恐惧焦虑后,只要家长及时与孩子沟通,不会产生久远心理影响。第三,研究发现,媒体视频中的暴力行为,极少导致儿童出现模仿行为,不会直接增加受暴力和性犯罪者侵害的风险。”

那么,如果发现孩子接触“毒动画”之类视频,家长应如何处置?

高璇建议,家长注意孩子是否有恐惧情绪,多陪伴孩子,孩子晚上睡觉时可以留一盏灯。家长可以告诉孩子“如果遇到害怕的事情应该怎么做”,如调整呼吸、向父母倾诉,转移孩子对恐怖画面的注意力,同时教给孩子应对恐惧的方法。

家长可以带孩子欣赏美好画面,如画面优美的绘本和视频,多带孩子到户外游玩,以驱逐、替代丑恶画面给孩子留下的印象。

有一点需要注意:丑恶视频可能会激起孩子的好奇心,让孩子“又害怕又想看”,所以家长需要态度严正地“立规矩”,“明确告知孩子这类视频不能看,如同告诉孩子‘不能喝酒’”。

高璇说,这一事件提了一个醒:对孩子平时使用电子产品和上网时做些什么,家长应“心中有数”。

她介绍,德国教育机构和媒体研究机构建议家长不要让孩子在13至14岁以前独自玩游戏和观看媒体节目。在德国青少年媒体指南网站上,“父母可以做什么”的第一条是:父母要了解孩子接收的媒体内容!

高璇认定,家长让孩子接触新媒体、包括看视频和玩游戏的前提是明确规则:除限制使用时间外,最重要的是“不能让孩子单独在自己的房间里玩,必须(让他们)在家长可以看到的场所,以便家长随时监控孩子接触的视频和游戏内容”。