在某互联网平台从事四年内容审核工作的高莉告诉人民网财经，一般审核机制分为业务内容模型初审、复审、内容修改、复核等流程。其中，初审包括机器审核及人工审核。机器审核主要是识别违规词、敏感话题等内容，并通过广告模型、低质模型、OCR画风模型、洗稿模型、黑产团伙模型等技术模型，识别不合规内容。之后，平台再通过人工审核判断是否要删除内容或者封禁账号等。
高莉介绍说，市场上也有不少专门从事内容风控的第三方业务公司，有助于避免涉黄内容的出现。但并不是所有互联网内容平台企业都选择这些方式保证内容信息质量，因为这需要投入较高成本。
中国文化管理协会网络文化工作委员会副会长、中国传媒大学教授王四新在接受人民网财经采访时表示，近年来针对互联网平台的内容监管体系已逐步走向完善，相关部门也通过约谈、整改等方式不断向社会各界明确互联网内容红线。但在具体落地执行过程中，不同类型的企业重视程度和执行力度并不相同。
王四新认为，游戏类社交直播平台仍出现打色情"擦边球"等内容，本质上还是利益驱动，部分平台一方面是对内容风控重视程度不够，一方面是不愿付出相对较高的成本来利用技术、人工等手段强化内容审核。
"游戏类社交直播平台很大一部分用户是未成年人。"有业内人士表示，平台上的"聊天"多以游戏为名进行、直播和聊天很多在深夜，这些都给平台人工审核增加了难度。此外，由于部分游戏社交平台没有完成实名制注册和认证，主播即使因存在不良内容信息"被封"，也可以换个名字继续在该平台或者其它同类平台上注册新用户。
对此，王四新建议，在监管层面，要提高平台的内容违规成本。对于多次出现违规内容的、屡教不改的平台，在行业许可准入、平台下载及注册等方面要抬高门槛。当下各领域内容平台数量繁多、缺乏统一的全国性的内容风控平台，可以针对互联网内容企业的实名注册、内容风控、监督举报等建立起一个全国的信息化平台。通过建设黑名单制度，让违规内容的发布者不能再进入这一领域。
在今年9月，《关于进一步压实网站平台信息内容管理主体责任的意见》正式发布，明确了平台要从四个维度把握主体责任的内涵，从完善平台社区规则、加强账号规范管理、健全内容审核机制、提升信息内容质量、规范信息内容传播、加强重点功能管理、坚持依法合规经营、严格未成年人网络保护、加强人员队伍建设等九个方面，对平台履行主体责任提出了具体要求。
"作为网站平台信息内容管理第一责任人，网站平台应严格落实信息内容管理主体责任，完善人工审核制度，提升技术审核效率和质量。"北京市京师律师事务所数字经济法律事务部执行主任孟博对人民网财经表示，按照《网络安全法》规定，网络运营者应当加强对其用户发布信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。否则，视情节或将面临责令改正、警告、没收违法所得、罚款、责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照等处罚。
