本文基于数美科技业务安全负责人安泽《出海业务安全体系搭建》的主题分享整理成文，覆盖风险分析、整合方案两方面内容。

风险分析
合规、运营、营收的“新”三座大山

近几年，在内外双驱动力作用下，越来越多的企业转向出海外市场。内驱动在于国内市场竞争非常激烈，将进入长期的存量市场争夺；外驱动是海外市场将成为下一个十亿人口红利，消费能力和消费需求都在迅猛上升。

目前出海企业会遇到的风险有三大类，覆盖主体运营合规、用户运营、经营营收三个方面。

（一）主体运营合规

数据合规：大家都非常熟悉的GDPR——通用数据保护条例，于2018年5月正式生效，并强制执行。该条例是迄今为止覆盖最广，最为严格的全球性数据隐私保护条例。不合规者将面临营业额4%或2000万欧元行政处罚。像中东，美国，东南亚也有各自典型的数据保护法相关条例。目前全球197个国家，已经超过67%的国家都对数据和隐私保护进行了立法，所以运营合规问题，首当其冲的一定是考虑数据处理是否合规。

应用商城上架合规：任意App如果想在苹果或者谷歌商城上架的话，一定会收到来自IARC的评级通知，需要自评上架的年龄分级阶段。IARC适用全球的年龄评级体系，各个地区有对应的标准，像美国的ESRB、欧洲的PEGI、菲律宾的Classind等。年龄评级其实是在一定程度上起到了保护未成年人的作用。那如果不合规，会被应用商城做下架处理。今年一共有超过81万的app因为不合规被下架，其中86%的存在侵犯未成年人保护条例，将近60%的下架平台因为数据隐私合规以及用户投诉。

法规与文化：基本上每个国家的法律法规都会对未成年人保护颁布相关法律条例，欧美最为严格。当然也有宗教文化较为浓郁的国家，比如中东的沙特，针对女性人群特有着装规范，沙特本国女性在公开场所必须穿黑袍，该项规定同时覆盖了线下场所和线上网络，都需要严格遵守。再比如直播中禁止出现未成年人，尤其是裸露、色情，以及沙特女性需要带头纱等等特别要求。

我们把全球主要信奉的宗教、对应的国家以及禁忌做了分析。出海企业需要全方位了解出海目标国家都信奉哪些宗教、每个宗教禁忌是怎样的，以及除此之外还有哪些其他文化禁忌。例如泰国不允许出现侮辱国王言论，2014年到2020年，泰国被封禁的网站，有77%的原因就是因为冒犯王室导致；再比如印度禁止出现宰杀牛以及巴基斯坦相关元素；中东禁止出现十字图形，形似恐怖组织。每个国家禁忌非常复杂，出海企业需要高度重视相关内容。

（二）用户运营

用户从拉新至平台到产生业务行为，经历的全部关键行为路径都会有风险可能。通常我们会去从注册来判断是否有风险，因为这是通常意义上首次用户行为。但仅以此判断是远远不够的。既要场景前置，在启动或下载App的时候就开始判定运行环境是否有风险，也关注后续行为，才能形成较为整体的风控链路。

内容治理：个人资料及头像，昵称，相册，动态以及对应的评论。这类数据属于静态数据，且曝光量较大，因此违规内容被曝光的风险非常高。这之中存在的风险内容就有三类

1:底线类：比如露点等色情内容；枪支弹药、毒品等暴恐内容；
2:质量类：比如各类logo，尤其是官方logo和竞品logo，以及各类广告。
3:影响调性类：比如图片模糊，自拍和头像非同一人等等；

话题/部落：该场景的特点是讨论话题有定向性，更容易触发敏感话题的发酵。除违规内容外还有广告风险，典型的就是交易广告和外挂软件广告。

直播：直播封面、房间名称、简介、直播间画面以及声音、弹幕。直播除了违规内容，另外还会有挂播行为，比如主播为了骗取平台根据直播时长给予的奖励，直接无人空播，或把照片挂在屏幕前进行挂播，以此来绕过无人脸识别技术。另外平台会对直播间进行推荐，推荐维度结合了主播颜值、跳舞、唱歌等特点标签，这个过程中有的平台会参考封面，如果封面颜值与直播间真实画面不符就可能引发错误推荐，影响用户体验。

语音房：除了色情违规，还有一些行为影响用户体验，比如人身攻击的辱骂、非法路径获取破解版特权踢人、炸房、故意播放高声噪音等。现有的审核手段更多依赖人工询房、用户举报或志愿者监督。这种方式有滞后性高、覆盖率低两大问题。介于语言房内容载体和风险类型复杂，有这种媒介形式的出海企业更需要重视起来。

（三）经营营收

在营收问题上，支付渠道像paypal，airwallex会检测平台如果有色情/毒品等违禁交易，会直接封禁支付账号，最长冻结时间为12个月。其次App如若被破解，用户无需充值即可获取无限特权。另外还有商城内购恶意退款，代充代退的现象。

风控对抗的不是一个人，一个小团伙，一个工作室，而是一条完整的黑产链条。

全球产业链参与人员超过200万，从情报搜集到基础资源准备，针对平台开发和组合对应的黑产项目，到最后变现。

整合方案：以全栈式风控，打造更合适的解决方案

风控方案最大的挑战在于如何梳理所有的业务场景以及对应的数据类型，这些场景数据需要如何处置，比如展示、删除、封号、账号分级、语音/直播房间提醒或断流，这就需要一个业务处置中台来适配不同的场景。

中台建设：处置一定要有原因/标签判断做输入，即需要对内容/账号进行审核，审核平台结合机器+人工进行综合判断。机器的优势在于能够进行海量数据的处理，通过模型学习和策略体系对内容和行为进行深度理解，输出风险标签、业务标签、账号标签。结合对业务理解更加精准的人工进行二次审核，校准处置。这样，场景梳理+处置中台+审核中台实现了业务模块化、流程体系化、数据标准化，搭建出整体的风控中台体系。

策略体系：接下来最重要的环节就是对海量数据的筛选和理解，不是可以通过词库，封禁IP和账号简单策略就可以完成，这背后需要一个强大的风控团队做支撑，推动策略、模型、算法——机器学习三要素的迭代提升。考虑到我们面向多个行业的客户提供服务，所以我们的策略体系需要建立行业通用策略、公司级特殊策略、场景级策略的三级策略体系.

未成年人问题：我们通过音视图文多内容载体，可以实现对用户无感知进行年龄分级定位。例如头像为自拍，并且脸部特征是青少年，个人语音签名或语音放聊天通过音色和ASR转义判断内容是未成年人，那么大概率该用户是未成年人。如果平台年龄分级是17+，平台有大量未成年人，一旦被投诉至应用平台或被曝光，将直接面临下架风险。

风控是重运营的工作，运营是推动机器学习效果迭代的重要动力。

因此出海企业在建立智能风控体系时，也要重视效果运营，重视起误杀、漏杀，做好case分析，才能让机器审核的智能程度持续提升。