什么是内容安全
背景
随着互联网、智能设备及各种新生业务的飞速发展，互联网上的数据呈现爆炸式增长，图片、视频、发文、聊天等互动内容已经成为人们表达感情、记录事件和日常工作不可或缺的部分。每天，通过互联网上传的视频、图片数量超过10亿，通过各种社交网络、媒体平台的发文数量超过5亿，而且这种趋势还是继续快速增长中。
这些日益增长的内容中也充斥着各种不可控的风险因素，比如色情视频和图片、涉政暴恐内容、各种垃圾广告等等，随着政府监管的日渐严格，这些都是各网站及平台亟待认真对待和管理的工作。而另一方面，人们对这些非结构化内容的认识和解读和也处于初级阶段，需要更加智能的技术和系统来帮助大家深度发掘这其中蕴藏的巨大商业价值。
产品定位
云盾内容安全是内容安全领域的先行者，源自阿里巴巴多年安全技术积累，依托阿里云、淘宝、支付宝等平台的管控经验，为企业用户提供成熟的、轻量化接入的内容安全解决方案，帮助企业、开发者在复杂多变的互联网环境下快速发现文本、图片、视频的各类风险，保障应用的信息内容安全。
目前的产品包括：内容检测API，OSS违规检测，站点检测。
内容检测API
内容检测API主要对包含色情、涉政、暴恐、广告、垃圾信息的文本、图片、语音、文件文本及视频进行检测和识别，通过系统化的方式提供审核、打标、自定义配置等能力来保障您接入的效果和个性化需求落地。
针对的用户包括但不限于：视频网站、直播平台、社交平台、媒体平台、垂直社区／论坛、电商网站、存储平台、CDN平台等一切UGC（用户生成内容）平台和一切需要对本站内容进行安全管控的平台。
站点检测
针对阿里云ECS用户，提供首页检测服务和网页内容检测服务，帮助您检查您的首页是否具有被攻击、挂马等风险，以及当您的站点中网页疑似有违规信息时，会通知您并提供违规网页地址及快照查看功能，方便您对网页内容进行整改。
OSS违规检测
针对阿里云OSS用户，提供一键式的图像鉴黄SaaS化服务。您可以将保存在OSS中的图片进行鉴黄检测，并且提供删除和冻结的功能。
功能特性
内容安全主要包括以下功能：
- 站点检测服务：定期对您的网站进行检测，及时发现您网站在内容安全方面可能存在的风险，覆盖首页篡改，挂马暗链，色情低俗，涉政暴恐等风险，并提供违规内容的具体地址和查看。目前包括首页监测和全站监测服务。
- OSS违规检测服务：通过用户授权，检测OSS中图片的色情、涉政等违规风险；支持扫描用户OSS中视频文件，发现色情和涉政内容。
- 内容检测API：内容检测API基于阿里巴巴多年的技术沉淀和海量的数据支撑，提供文本、文件文本、图片、语音、视频等多媒体内容安全检测的开发接口服务。该服务可不依赖于阿里云其他服务，只要是公网可访问的图文信息均可过滤。
产品优势
- 性价比高：在节省90%以上的人力成本的同时，支持秒级返回结果，达到99%以上的准确率。
- 经历实战检验：支撑阿里系淘宝、支付宝等核心业务，经历“双11”实战检验，拥有海量的特征样本及丰富的数据模型分析经验。
- 接入成本低：一次接入即可提供音视频、图片、文字等形式内容检测，覆盖暴恐、鉴黄、涉政、广告等风险防范。
- 灵活的服务方式：既与OSS、ECS等云产品无缝对接，又可以通过API方式与用户审核系统集成。
- 海量数据快速检测：基于云计算平台，对海量数据进行快速检测。
发展历史
- 2015年12月3日，内容安全内容检测API服务正式上线。
- 2015年10月22日 内容安全OSS违规检测服务正式上线。
- 2015年5月12日 内容安全站点检测服务正式上线。
名词解释
站点检测
- 网站首页检测：首页检测服务可以帮助您检查您的首页是否具有被攻击、挂马、无法访问等风险。
- 网页内容检测服务：网页内容检测服务针对阿里云网站类用户提供网页检测服务。当您站点的中网页疑似有违规信息时会通知您，并提供违规网页地址及快照查看功能，方便您对网页内容进行整改。
OSS违规检测
- 违规分值：代表趋近于违规图片的概率，分值越高，是违规图片的概率越大。
- 冻结：冻结OSS object意味着该图片无法在外网被访问。
FAQ
关于此文档暂时还没有FAQ