在产品设计领域，容易被人忽视的一大领域就是风控，但它带来的影响也是巨大的，甚至能对产品造成收益上的损失甚至造成毁灭性的打击。本文对风控的基本内容做了详细的解释，希望对你有所帮助。

  在产品设计领域，容易被人忽视的一大领域就是风控，但它带来的影响也是巨大的，甚至能对产品造成收益上的损失甚至造成毁灭性的打击。本文对风控的基本内容做了详细的解释，希望对你有所帮助。

  风控，即风险控制，一般指在产品功能设置上，通过技术、运营等方面规避来自政策、黑产、平台、竞争等层面的风险，避免对产品造成收益上的损失甚至造成毁灭性的打击。

  指由相关国家机构明令禁止的内容，比如涉黄、涉政、未成年、引起不良社会现象的谣言等内容。这类内容会对社会造成负面的影响，如果被举报导致监管部门介入，则会导致公司的产品受一定的影响（比如下架、勒令整改）。

  指通过作弊进行刷量、刷奖励等方式，非正常地获取平台在拉新、促活层面的让利，比如抽奖活动刷抽奖、拉新注册刷人头薅羊毛等，这些行为会导致产品的运营策略的ROI下架，导致策略效果不理想。

  指依赖于第三方平台合作的产品（比如安卓应用商城、苹果Apple store，通过上架第三方平台）通过符合其他平台的规则来实现盈利，假如慢慢的出现违规，有几率会使下架、功能限制等平台处罚措施，导致产品的正常运营受到影响。

  主要指用户通过脚本、外挂等方式，进行非正常的用户操作，从而破坏产品的用户生态，比如游戏的外挂、网赚产品的自动达成目标，这些行为一方面损害了正常用户的利益，一方面导致平台经营成本增大（游戏的外挂/脚本会加速游戏内容的损耗、网赚平台则会加大平均的让利成本）。

  主要指其他竞品平台的不良内容，用商业诋毁官方或者合作的公司，导致品牌利益受损。一般有可能会出现在内容平台上，比如水军进行负面舆论的爆破。

  这一类比较难归类，会结合平台的类型的不同而有不同的类别。比如，淘宝的“摆渡人”系统，专通过高危语义、人工筛选、商家提报等方式，识别出有自杀倾向的用户做到合理干预。

  玩家能够自定义文本、图片、视频、音频等内容的直播平台、图文社区、视频平台、社交平台等产品（比如微博、B站、贴吧、微信、抖音）会十分容易产生各种涉黄、涉政、广告等内容。平台上的用户量越大，则产生的风险内容量便越多，被大面积曝光的风险也越大。

  比如游戏内不正常内容的刷屏，会极大地破坏正常玩家的游戏体验。假如慢慢的出现的是法律禁止类的内容，被举报后可能会被监管力量介入并导致游戏受到负面舆论的影响。

  因此体量较大的产品，其审核团队以及风险管理措施也便越多，像是微博、B站、微博等大体量平台，审核团队的规模都是非常可观的。

  主要集中在电商、O2O、互联网金融、新兴行业等领域，电商、O2O、新兴行业产品的运营往往会通过活动发放奖励的方式为完成用户增长目的，类似于新用户下单XX折扣、新用户注册领取XX红包、邀请好友领取XX红包等。互联网金融行业则更多涉及借贷、诈骗、洗钱等行业，这类内容涉猎不多，不多讲述。

  黑色产业的存在可以通过非正常的手段获取这些奖励。比如，通过刷注册的方式获取新人红包、通过刷邀请的方式刷拉新红包。可能公司打算投放100w的返利，结果60%的钱都发给到了黑产。这些非正常行为导致产品的用户增长成本提高，降低产品的收益。因此合理地设计风险防控手段极其重要。

  一般来说，能够最终靠规则的设计层面进行一层限制，比如账号参与活动的上限、IP/设备参与活动的上限、返利的使用条件，这种手段都能提高黑产获取收益的难度，但是往往由于黑产的专业化、职业化、团伙化、伪装性等特点，这些往往难以从根本上去防控的。

  有些商品的供应量往往不足以满足所有的客户的真实需求，所以会采用先到先得、预约、摇号的方式来进行限购，但是黄牛会通过脚本外挂等手段获得商品，从而以更高的价格进行转让。这样的一个过程损害了正常用户的购买体验，用户额外付出的钱也没有让平台获利。

  这类产品一般指游戏，特别是多人线上的游戏，部分玩家通过外挂进行作弊，轻松赢过其他正常玩家，进而影响正常玩家的正常体验，导致正常玩家的流失。因此当外挂泛滥时，游戏的用户流失情况会加剧，厂商的整体收入也会受到较大的影响。

  部分风险内容都是违背国家法律和法规的，如果产品上存在相关联的内容且引起了有关部门的注意，可能会引起灭顶之灾。比如饭否网，在2009年就因为触及敏感性政治事件被关闭，从而错失大好的发展期。

  风控是国情下的重点发展趋势，我国是一个人口众多的国家，风险内容数量大、影响深。假如慢慢的出现时事新闻，很容易集中爆发违规的风险内容，因此导致较大的不良影响。因此我国政策上极度重视这一块的管控，比如近几年大力推进的清朗专项整治活动、国家新出的《互联网跟帖评论服务管理规定》规定（要求新闻评论内容先审后发）。

  为了刺激平台内的用户活跃，产品内的内容发表门槛往往很低，像是图片、视频类的内容，平台也会设计便捷工具，因此文字、照片、音频、视频等内容的生产所带来的成本极低。这给到风险内容的生产也产生了极大的便利，如微信之前举办的自定义表情比赛，网友仅仅使用原生的emoji元素就能打造不少违规内容。

  加之最近AICG内容的兴起，内容生产所带来的成本再一步降低，目前已经存在不少存在“政治不正确”因素的内容，如被有心者利用，可能会存在违规情况。

  像是黑灰产业、三方平台、脚本外挂、竞品竞争方向的内容，虽然不会引来监管部门的降维打击，但是会对平台内的正常用户造成影响，甚至使用户的流失，以此来降低平台的整体收益。

  比如，竞品厂商找工作室在产品内打拉人广告，把用户导流到竞品上，就会导致我方用户的流失和收入的降低。又比如，黑产工作室通过刷单的方式获取我方运营活动的让利，导致整体收入的降低。

  四、风控的难点在哪 1. 黑产敌暗我明、敌众我寡，用较大的成本对抗未知的风险

  1. 专业化：为了与各种厂商的防控手段做博弈，从各种厂商的漏洞中获利，黑产已发展出了类似于黑卡、猫池设备、自动化管理软件、接码平台、群控系统、代理、作弊软件，这些无不体现了黑产发展的专业性。

  2. 职业化：黑产分工明确，组织有序，不少已有公司规模，有售前岗位负责拉客户，有技术岗位负责破解。

  3. 利益链复杂：黑产各个环境涉及到不同的利益团体，存在上下游关系，有的团体负责提供黑色设备、用户个人信息、手机号，有的团体负责直接从厂商上面薅羊毛。比如：

  2）验证码供应商：主要负责提供短信验证码、语言验证码的功能，同时也有打码平台，指利用廉价人力进行识别分发；

  3）技术研发人员：主要负责模拟器、手机参数、定位等信息、按键精灵的修改破解与研发；

  4. 团伙化：黑产的操作行为都是模拟用户的行为进行获利，为了扩大整体利益必然会形成一定的作案团伙规模。一方面作案规模大了之后平台损失会加大，但另一方面黑产行为的规制更容易获取。

  5. 伪装性：黑产的操作会模仿正常用户的行为，导致厂商可能误伤正常的用户。

  基于这些特点，导致风控的业务绝大多数都是一项敌明我暗、敌众我寡的业务，很难从根本上进行问题的解决，而且消耗的成本极大。

  黑产的目的是从企业获取利益，那么有利益的地方自然就会有黑产。比如滴滴行业会有黑产冒充新注册司机，篡改行程、订单数据，从而获取新注册司机福利。比如黄牛会将稀有的门票炒高价格，从而获取数倍的暴利。

  正如《资本论》里所描述，“ 如果有100％的利润,资本家们会挺而走险……”有足够多的利润，那么便会吸引足够的黑产。黑产会大多集中在新产品、新业务、大推期、活动期等存在比较大利益空间的时期和产品上。

  风控虽然影响巨大，但是风控系统的收益并不明显，为了抓到100w内容中的1条违规内容，需要审核完100w的内容，而且这1条的违规内容仅仅是有较少概率被举报。

  这个过程中，AI仅仅只能起到辅助的作用，并不能完全代替人来进行决策，因为AI识别具有滞后、理解能力弱（含沙射影的内容没办法理解，会出现误判）的特点，导致AI仅仅只能起到初步筛选的作用，还是会放过部分的风险内容。为了能够更好的保证产品的安全，还是需要人力进行兜底和AI的样本采集，整体来说成本还是会处于一个较高的水平。

  从产品设计、优先级规划的角度看，风控不属于MVP功能，ROI较低，在产品的初期，并不是特别需要投入太多的精力进行建设。

  从盈利的角度看，风险只是能够对收入进行止损，并不能够对收益进行增幅。产品的增量拉收，风控系统并不能起到啥作业。因此全力发展风控并不是一件明智的选择。

  因为风险无法完全根绝，那么我们要花最少的力气，做效果最大的事情。使用团队可接受的成本，把风险降低在可接受的范围以内，并做好被监管时候的备案。

  虽然AI技术有滞后性、理解能力弱等弱点，但是能讲风险内容的范围进行筛选，能用较少的成本降低大部分的风险。可能100w的内容量，需要50人才能完成审核，AI如果能过滤90%的低危内容，则可只用5人进行审核。

  随着AI理解能力的发展，AI的弱点也会逐渐被淡化，到时候人力成本也会再一步降低。

  风控技术具有较高的通用性，可以一个风控系统沿用至多个产品，如果作为中小厂商，可优先考虑接入第三方的风控系统，如果是大厂，则有必要自己进行风控中台的搭建，以便满足自身的定制化业务需求。