数美科技未成年人保护解决方案 共建健康游戏生态

2021-08-17 11:00     互联网

每年一到寒暑假,未成年人沉迷游戏、过度消费的新闻屡见不鲜。2021年4月,湖北一位11岁的未成年人在使用家长手机上网课期间,用家长身份证实名认证某款游戏,一个月内游戏充值达7万元。孩子父亲是一名矿工,母亲打临工,姐姐大专在读,对游戏的一时沉迷,透支了这个家庭两年多的存款。

图片来源:新华社官方微博

据共青团中央维护青少年权益部、中国互联网络信息中心(CNNIC)发布的《2020年全国未成年人互联网使用情况研究报告》,2020年我国未成年网民规模达到1.83亿,未成年人的互联网普及率达到94.9%。未成年人游戏用户规模超过1.1亿人,62.5%的未成年网民经常上网玩游戏,13.2%的未成年游戏用户在工作日平均每天玩手机游戏超过2小时。

未成年人网上娱乐活动:听音乐、玩游戏、看短视频

图片来源:《2020年全国未成年人互联网使用情况研究报告》

"未成年人沉迷网络游戏"始终是值得各界深思的问题。沉迷网络游戏的未成年人以小学生和初高中生为主,他们是00后甚至10后,出生于互联网和电子设备相当普及的时代,互联网是他们接触信息、互动娱乐的重要渠道。值得注意的是,未成年人接触互联网的低龄化趋势也越来越明显,网络游戏对未成年用户可能造成的沉迷、不良内容侵蚀、过度消费等负面影响持续存在。正值暑假期间,未成年人拥有更多的空闲时间玩网络游戏,这也让"防止未成年人沉迷网络游戏"这一问题变得更加棘手。

图片来源:《2020年全国未成年人互联网使用情况研究报告》

尽管监管不断完善,未成年人网络沉迷依旧难以根治

2019年10月25日,国家新闻出版署印发《关于防止未成年人沉迷网络游戏的通知》,严格规定了实名制、未成年人游戏使用时间、未成年人游戏付费标准,积极引导家长、学校等社会各界力量履行未成年人监护守护责任,多方面防止未成年沉迷网游。

今年6月,新修订的《中华人民共和国未成年人保护法》正式实施,要求网络游戏服务提供者应当要求未成年人以真实身份信息注册并登录网络游戏;应当按照国家有关规定和标准,对游戏产品进行分类,作出适龄提示,并采取技术措施,不得让未成年人接触不适宜的游戏或者游戏功能;不得在每日二十二时至次日八时向未成年人提供网络游戏服务。

与此同时,游戏行业也在不断完善未成年人保护体系,通过实施网络游戏账号实名制度以及限时、宵禁、付费限额等基础手段,对未成年人游戏使用进行管理。

虽然立法一直在完善,但游戏企业的具体措施仍然无法跟上网络的发展,未成年人网络沉迷依旧存在,难以根治。高一学生的小迪说,身边的同学们很多都使用家长账号、身份证注册登录游戏,绕过各种"青少年模式",还有的同学购买加速器、"翻墙"等,使用游戏的国外版本,就可以绕开网络游戏时长等各种限制。

1.青少年防沉迷系统形同虚设:虽然网络游戏平台已经普遍采用的青少年防沉迷系统,但仍然能被孩子们找到漏洞,从而避开监督,成功上网。

2.不良内容侵蚀未成年人身心:部分网络游戏平台中存在的各种不良信息也将未成年人置于内容风险之中。

未成年人成长是关系国家和民族未来的重大议题。游戏领域青少年保护需要多方参与,不能仅仅依靠主管部门制定相关法律法规,游戏企业也应该依规建立起对应的保护制度,加强自身技术手段,全力配合未成年人保护政策的实施,确保对未成年人的保护无疏漏、无死角。

数美科技游戏行业未成年人保护解决方案:全栈式、全周期、非侵入

针对游戏行业面临的上述未成年人痛点,数美科技基于成熟的监管标签体系,结合多年的风险内容识别经验,通过对行业及监管政策深入分析,形成了一套全栈式、全周期、非侵入的游戏行业未成年人解决方案,为平台提供用户年龄标签,帮助平台有针对性地筛选未成年人用户和疑似未成年人用户并进行相应的处理。

全栈式:实时识别游戏中的文本、音频、视觉(图片+视频)内容,及时拦截不良内容

全周期:从未成年用户的全周期行为(聊天、私信、开麦、编辑个人信息等环节)产生的内容入手进行未成年人身份识别

非侵入:基于现有用户旅程中内容与行为,而非额外的侵入式审核方式,减轻对非未成年用户的打扰

一、AI技术识别未成年人账号,提升防沉迷系统效能

就在今年7月,国家网信办启动了"清朗·暑期未成年人网络环境整治"专项行动,要求重点排查解决网站平台防沉迷系统问题漏洞,解决"青少年模式"入口不显著、识别不精准、专属内容不够丰富、应用效果不佳等问题,进一步优化模式效能,着力防止未成年人沉迷网络。

14岁奥运跳水冠军在接受采访之时曾坦言,自己喜欢玩"吃鸡"、王者荣耀,但无奈平台有未成年人防沉迷设置,因此玩的不尽兴。

图片来源:央视频

但很多缺乏自制力的未成年人也会想尽各种被办法绕过防沉迷系统:借号、租号、改系统时间、这个游戏时间到了换个游戏继续玩,导致一些游戏的防沉迷系统形同虚设。

针对未成年人冒用成年人账号登录游戏的情况,数美科技能够从账号的文本、语音、人像等内容中精准捕捉未成年人特征,判断账号使用者是否为未成年人,提升游戏防沉迷系统效能。

文本特征:目前市面上的大多数游戏都有私信、聊天功能,游戏过程中,用户可以与队友交流游戏体验、约定游戏时间等等。数美科技对这些文本内容进行基于NLP的语义分析,借助未成年人文本识别模型和策略,输出当前登录账号的玩家是未成年人的可能性。举个例子,如果某用户在私信或者聊天中提到"我十二岁"、"还没写完作业"、"明天放学上线"这类内容,数美就能够对此进行语义分析,判断这个账号的真实使用者有多大可能性是未成年人。数美科技还会持续对海量未成年人文本数据进行学习和训练,不断迭代未成年人文本识别模型,从而做到更加精准的未成年人判断。

语音特征:除了文字,语音也是游戏中的重要交流媒介。很多玩家在游戏中选择开麦,游戏体验更加身临其境,方便队友之间的配合,同时也能达到交友、减压的目的,为游戏增添乐趣。声音是未成年人与成年人的一大不同之处。数美科技通过解析玩家产生的音频内容,一方面对玩家的音色进行声学特征识别,未成年人的嗓音往往更加稚嫩,声调更高;同时将玩家的音频内容转换成文本,对其进行语义分析,输出"未成年人"和"疑似未成年人"标签。

人像特征:游戏者的外貌特征是判断其是否为未成年人最直观的体现。数美科技采用基于深度学习的图片识别技术,构建强大的图片识别引擎,精准识别图片中未成年人特征,极大提升未成年人账号识别准确度。而且,如果一个未成年人冒用成年人账号或者因为游戏超时被强制下线,他的"人脸指纹"(脱敏的人像ID)将会存储在数美未成年人信息库,这样即使换手机、换账号重新登录这款游戏或者其他游戏,依然会被识别出来,避免了未成年人换个账号、换款游戏继续玩的情况,提高了防沉迷系统在不同应用间的整体协同效果。

数美科技游戏行业未成年人解决方案提升防沉迷系统效能

二、AI技术拦截未成年账号不合理消费

随着网络消费技术的迅猛发展,未成年人为网络游戏充值较大金额的事件屡见不鲜。很多未成年人在家长不知情的情况下,在游戏里不定期进行大额充值,有些未成年人甚至充值几十万甚至上百万元。

对于未成年人在游戏中的不合理消费行为,数美科技综合分析账号此前发布的聊天、语音、图片、视频等内容,采用AI技术双认证(标签+人脸验证),筛选其中包含的未成年人特征,据此输出"未成年人"、"疑似未成年人"、"非未成年人"三类标签。在"未成年人"和"疑似未成年人"标签的用户发起充值请求时,客户能够借助数美提供的账号年龄标签,结合账号人脸验证数据,对账号的支付请求进行处理。为疑似未成年账号打标签,实现了更具针对性的数据调取,提高未成年账号消费请求的判断效率。

三、全栈式内容识别,全方位抵御不良信息侵害

《2020年全国未成年人互联网使用情况研究报告》数据显示,34.5%的未成年网民在上网过程中遭遇过不良信息,包括淫秽色情内容、血腥暴力或教唆犯罪内容、邪教、封建迷信内容等等,这些不良信息侵蚀未成年人身心,甚至将危害从线上转移到线下,教唆未成年人自杀的"蓝鲸游戏"就是一个典型案例。

图片来源:《2020年全国未成年人互联网使用情况研究报告》

游戏场景中,玩家昵称、介绍、私信聊天等文本内容,语音对话等音频内容,以及用户头像、聊天图片等图片内容,都有可能成为不良信息的藏身之地。恶意广告导流信息更是有可能将未成年人引向诈骗、色情、博彩的深渊。数美科技依托旗下全栈式智能内容识别产品--天净,打造了专门针对未成年人游戏场景的内容识别功能,从文本、图片、音频、视频中全方位精准识别游戏平台中的色情、血腥、违禁、暴恐、历史虚无主义、广告导流等内容风险,为未成年人打造健康、绿色的游戏环境。

数美科技游戏行业未成年人解决方案全方位识别未成年人风险内容

破解未成年人沉迷游戏问题,既需要监管部门的"硬态度",也需要游戏企业的"硬技术"。数美科技愿与游戏企业携手共同建设绿色健康的未成年人网络游戏生态。

频道热点
更多
今日关注
更多