近几年，各国加大人工智能产业政策扶持和创新平台建设力度，加速人工智能的应用化、产业化与融合化。人工智能技术大大地促进了数字内容产业发展，但同时整个行业正在面临革新过程的各种新问题、新挑战，对技术、产业、政策乃至社会层面带来深刻影响。
8月30日，在由赛博研究院承办，腾讯、上海社科院互联网研究中心等联合协办的2019世界人工智能安全高端对话上，继腾讯天御业务安全大脑成功入选2019世界人工智能产业安全十大创新实践后，腾讯安全战略研究中心联合赛博研究院重磅发布《人工智能时代数字内容治理的机遇与挑战》报告（以下简称《报告》。该报告也是国内首份聚焦人工智能与数字内容行业关系，全景式呈现发展趋势、挑战风险、政策创新、治理赋能等内容的报告。
腾讯安全战略研究中心高级研究员韩李云发布《报告》
腾讯公司安全管理部总经理朱劲松在致辞中表示：“报告对政策创新与治理赋能方面的考察具有填补空白的创新和突破意义，我们可以看到人工智能时代数字内容治理的机遇与挑战将长期并存，但AI赋能数字内容产业更加繁荣发展必是大势所趋，需要我们一起努力推动形成良好治理环境，促进国际合作，企业更应当秉持AI向善之心继续探索创新应用。”
腾讯公司安全管理部总经理朱劲松在大会现场致辞
数字内容产业六大发展趋势
数字内容产业整体发展趋势体现为纵向延伸、垂直整合、跨界布局、生态融合，行业边界逐渐消弭，数字内容产业催生新的社会化分工，孵化出新的产业价值体系，在内容生产、传播、消费、载体、质量、安全等各环节或方面呈现出六大发展趋势：在内容生产方面，“人-机”协同生产模式进一步解放劳动力；在内容传播方面，算法精准推荐占据信息流分发主导地位；在内容消费方面，沉浸式体验与交互式反馈提供个性化选择；在内容载体方面，万物皆媒环境中数字内容嵌入各行业场景；在内容质量方面“内容为王”成为数字内容产业核心竞争力；在内容安全方面，各类治理难题凸显机遇与挑战长期并存。
AI与数字内容交织引发七类风险
人工智能助推数字内容产业颠覆性发展，难免伴随着现有治理模式及监管体系与新业态的不匹配，既存在现行治理手段滞后带来的治理失效和力不从心，也体现为数字内容治理问题与其他社会问题及风险的交织泛化，主要风险包含以下七大类：
数字内容极大丰富与内容审核能力不足的矛盾凸显；“算法偏见”与“算法黑箱”影响数字内容公正性，技术攻关存难度；内容造假滋生灰色产业，深度伪造威胁国家社会稳定；智能化内容生产权责归属困难，版权保护亟待健全法规体系政策；“信息茧房”循环强化，或引发网络社群“部落化”“极群化”；无序数据挖掘泄露个人隐私，跃升数字内容治理突出问题；信息资源竞争或催生新的数字鸿沟，将成数字内容治理新难题。
各国在应对人工智能时代新型、复杂的治理挑战时，现行数字内容治理政策显得较为滞后，但都结合各国数字内容发展情况作出各有侧重的政策创新和尝试。报告还考察了国内外企业运用人工智能技术保障数字内容安全发展的20+案例，以治理场景为导向，介绍人工智能技术在内容审核、事实核查、版权保护、打击诈骗、舆情治理和破除信息茧房等场景领域的技术应用思路和产业实践。
强化内容审核，精准事实核查
数据挖掘、归因分类、机器学习、自然语言处理、计算机视觉、模式识别等各种人工智能技术方向应用在数字内容治理的不同场景中，明显解放人力，提高治理效能。
在内容审核方面，基于腾讯云图像分析等人工智能技术，微信推出“珊瑚内容安全助手”小程序，为广大小程序开发者提供风险自测、内容鉴别、行业动态三个维度的内容安全能力。如在文字鉴别、图片鉴别模块，“珊瑚”小程序可对用户上传内容中是否含有违法有害信息给出鉴别结果，同时提供能力介绍和接入引导文档，为开发运营者从“体验”“理解”到“接入”提供一站式安全能力服务。
在事实核查方面，基于海量数据与人工智能技术，腾讯微信公众平台辟谣中心、微信安全中心、腾讯新闻较真平台、腾讯内容开放平台企鹅号等探索出一系列智能内容核真措施，如打造辟谣数据库，智能识别处置谣言，借助机器算法触达谣言易感人群，基于阅读或投诉谣言的类型标签进行精准推送辟谣防谣。
