新聞中心

内容建設既包括 “建” ，也包括 “管” 。網上内容建設要善于抓住“兩(liǎng)端”，一端是“頂部的優質内容”，即不斷利用新技術、新形式、新渠道(dào)生産并傳播符合廣大人民群衆利益和社會(huì)長(cháng)遠發(fā)展的高品質内容；另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發(fā)現并糾正錯誤觀點。内容風險管理平台是一個新事(shì)物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。

進(jìn)入新時代，以習近平同志爲核心的黨中央高度重視加強互聯網内容建設，建立起(qǐ)了網絡綜合治理體系，營造了更加清朗的網絡空間。黨的十九大報告要求，提高新聞輿論傳播力、引導力、影響力、公信力。“四力”是媒體忠實履行新聞輿論工作職責使命的保證，是主流媒體政治價值和社會(huì)價值的體現。其中，引導力通常被(bèi)理解爲新聞媒體生産與傳播原創内容，或轉發(fā)優質内容，引領群衆認知、形成(chéng)社會(huì)共識的能(néng)力。除此以外，主流媒體是否有通過(guò)其他途徑，實現有效引導的可能(néng)性？在提升引導力方面(miàn)，互聯網給我們提供了什麼(me)樣(yàng)的現實條件和創新機遇？

抓住内容建設兩(liǎng)端，提升新聞輿論引導力

内容建設既包括“建”，也包括“管”。網上内容建設一端是“頂部的優質内容”，即不斷利用新技術、新形式、新渠道(dào)生産并傳播符合廣大人民群衆利益和社會(huì)長(cháng)遠發(fā)展的高品質内容；另一端是“底部的底線管理”，即要及時濾除和屏蔽不良信息、發(fā)現并糾正錯誤觀點。如今，很多大型網絡平台都(dōu)願意將(jiāng)其内容數據庫稱作“内容池”，池水清不清，不僅取決于注入了多少清水，還(hái)取決于截掉了多少濁水流入、開(kāi)辟了多少污水治理方式。

相對(duì)于大衆傳播時代的“管”，在大數據、雲計算、人工智能(néng)興起(qǐ)的時代，内容風險管控存在很多難點。

第一，内容類型雜。大衆傳播時代，報紙的内容無非是文字與圖片，廣播是音頻，電視是視頻和音頻。在網絡時代，特别是在移動互聯網傳播條件下，全媒體傳播形态讓内容類型複雜多樣(yàng)，生成(chéng)了大量非結構數據，不僅對(duì)人工審核是一大難題，對(duì)“人工+機器”審核也構成(chéng)挑戰。例如，在視頻的審核中，從按時間長(cháng)度進(jìn)行抽幀，發(fā)展爲按場景變化比例進(jìn)行抽幀，從理論設計到實踐技術都(dōu)需要改變。而要綜合考慮文字、圖片、音頻、視頻以及相關聯内容的審核，無疑難上加難。無論是傳統媒體機構，還(hái)是新興網絡平台，都(dōu)面(miàn)臨難題。

第二，内容數量大。數據即新聞、信息流即新聞已經(jīng)成(chéng)爲一種(zhǒng)新現象，需要審核的内容數量激增。市場調研機構IDC預計，全球數據總量年增長(cháng)率維持在50%左右，到2020年，全球數據總量將(jiāng)達到40ZB，相當于28.6億個美國(guó)國(guó)會(huì)圖書館藏書的信息量。根據工信部副部長(cháng)陳肇雄在“2018中國(guó)國(guó)際大數據産業博覽會(huì)”開(kāi)幕式上透露的數字，預計到2020年，我國(guó)數據總量全球占比將(jiāng)達20%。面(miàn)對(duì)如此海量的信息内容，審核壓力巨大。

第三，内容主體多。圍繞不同生産者，出現了用戶生産内容（UGC）、專業生産内容（PGC）、職業生産内容（OGC）、機器生産内容（MGC）。依托于網絡平台提供的空間與技術，内容生産者隊伍不斷擴大，内容平台類型多樣(yàng)。微信公衆号數量4000萬個，抖音每日活躍用戶接近7000萬，每月活躍用戶超過(guò)3億，用戶的“生産消費者”（prosumer）身份越來越明顯，政府機構、商業機構、社會(huì)組織、個人在各種(zhǒng)平台上競技，生态多樣(yàng)複雜。内容生産和内容平台主體資質、責任的認定都(dōu)更加複雜。

第四，效果預判難。以前報紙行業會(huì)強調版面(miàn)也是語言，可以體現出報紙的立場、态度和情感。如今，特别是智能(néng)算法推薦技術引入後(hòu)，不同類别信息根據個人特征有無數種(zhǒng)排列組合結果，單條信息在審核時可能(néng)并不存在明顯問題，但是多條信息組合後(hòu)，就(jiù)會(huì)顯露出傾向(xiàng)，影響個人對(duì)社會(huì)的判斷與認知，而效果難以預料。

這(zhè)些難點和問題，使得内容管理成(chéng)爲網上内容建設關鍵一環，地位越來越重要，不僅新聞媒體要擔起(qǐ)責任，所有的信息聚合和分發(fā)平台也不能(néng)回避對(duì)于内容安全的責任，各網絡平台内容的風險管理被(bèi)放到了責任清單上史無前例的高度。

内容風險管控平台應具備四個特質

“希望有一個權威、公正、專業的第三方機構爲内容風險管理提供服務”——在人民網舉辦的一次研讨會(huì)上，這(zhè)一呼聲成(chéng)爲各網絡平台的共識。但是，應由什麼(me)樣(yàng)的第三方機構來提供内容風險管理服務？各方認識卻并不相同。歸納各方讨論，一個真正科學(xué)的内容風險管控平台應該具有四種(zhǒng)特質。

一是“政策密集型”特質。近年來，我國(guó)互聯網内容建設與管理不斷完善，出台了一系列針對(duì)網絡内容建設與管理的政策法規。政策密集出台，意味著(zhe)“互聯網内容安全”已經(jīng)成(chéng)爲國(guó)家和社會(huì)關注的重點。這(zhè)使得内容專業審核具有了重要的政治意義。内容專業審核機構就(jiù)像黨和政府行政管理之外的“另一隻手”，可以從信息的源頭把控好(hǎo)政治方向(xiàng)、輿論導向(xiàng)和價值取向(xiàng)，配合主管部門進(jìn)行網絡内容安全建設。同時，從日常和微觀層面(miàn)上看，雖然意識形态是動态的，但對(duì)意識形态的管理在長(cháng)線和宏觀上都(dōu)必須保持一緻，所以，内容專業審核機構要通過(guò)内容風險管控水平，體現出自身對(duì)于政策的深入理解和動态把控能(néng)力。能(néng)不能(néng)準确地把握中央和各部門的政策，也是内容專業審核機構“政策密集型”特質的表現。

二是“技術密集型”特質。在目前條件下，人工已經(jīng)難以單獨承擔并完成(chéng)網絡内容審核的工作。借助大數據、智能(néng)算法等技術，互聯網信息傳播的效率和精準度大大提升。但每一種(zhǒng)技術架構、每一行代碼、每一個界面(miàn)，都(dōu)代表著(zhe)選擇，都(dōu)意味著(zhe)判斷，都(dōu)承載著(zhe)價值。比如，用大數據進(jìn)行用戶畫像、精準推送，本身就(jiù)包含這(zhè)樣(yàng)的價值觀念——“用戶偏好(hǎo)的就(jiù)是好(hǎo)的”，“平台的打開(kāi)率比一切都(dōu)重要”。短視頻平台上，“精選”的内容能(néng)獲得更多關注，然而什麼(me)樣(yàng)的視頻可以被(bèi)“精選”，同樣(yàng)隐含著(zhe)産品開(kāi)發(fā)者的價值選擇和利益訴求。技術越來越成(chéng)爲價值表達的手段。技術引發(fā)的問題要善于通過(guò)技術的手段加以解決。在内容審核與風險管理上，技術可以發(fā)揮很大的作用。一些網絡平台正在努力發(fā)展、完善技術審核系統，理論上，已經(jīng)可以依靠技術手段識别并控制90%以上的内容風險。有理由相信，人工智能(néng)等技術的發(fā)展和運用將(jiāng)會(huì)極大提升内容風險管理的能(néng)力和水平。

三是“管理密集型”特質。對(duì)網絡内容審核要做到“一把尺子量到底”。這(zhè)需要統一标準、統一思想，形成(chéng)統一操作。因此，對(duì)于内容風險管理平台，加強團隊内部管理是保持内容持久安全的核心要素。但嚴格審核不是機械、死闆的操作，要在審核過(guò)程中重視處理好(hǎo)效率、效果、效益三者之間的關系，使其相互促進(jìn)。通過(guò)不斷完善内部管理機制、培養能(néng)力超群的審核人才隊伍，可以極大提升内容審核的效率，最終幫助網絡平台降低内容風險、提升整體效益。

四是“人才密集型”特質。人工智能(néng)可以通過(guò)算法建立各種(zhǒng)模型來自動、高效地發(fā)現并處置内容問題與風險。但客觀上看，其發(fā)展水平尚處于“弱智能(néng)”階段，以目前機器學(xué)習水平還(hái)無法滿足爆炸式增長(cháng)、情況多變的互聯網内容審核需求，尤其是涉及時政、财經(jīng)、文史等深度内容，需要專業人士的深度介入，才能(néng)确保不出問題。因此，人工幹預、人機結合是當前仍無法替代的一種(zhǒng)審核模式。這(zhè)賦予了内容風險管理行業“人才密集”的特征。

内容風險管理平台應秉持五個原則

内容風險管理平台是一個新事(shì)物，需要主流媒體積極嘗試、共同探索，更需要各級主管部門的深入指導和具體支持。而作爲合作雙方的主流媒體和互聯網内容平台，特别需要重視遵守一些基本原則，可以概括爲“兩(liǎng)個不變”和“三個有利于”。

一個“不變”，是各内容平台對(duì)于自己内容的調性标準和最終責任不變。第三方内容審核，本質上隻是一種(zhǒng)基于合約的勞務服務，内容平台不能(néng)指望通過(guò)一份商業委托合同，就(jiù)把内容把關的責任甩出去。第二個“不變”，是内容平台是否擁有合法資質的法律地位不變。如果一個内容平台沒(méi)有相應的業務資質，不可能(néng)通過(guò)與主流媒體的内容審核合作，就(jiù)使自己的業務合法化。

而作爲第三方内容風險管理平台，主流媒體應該成(chéng)爲主流價值的傳遞者與捍衛者，牢記新聞輿論工作職責使命，切實通過(guò)内容審核業務，弘揚社會(huì)主義核心價值觀，但是，同時也要始終牢記：作爲“第三方”，始終隻是接受了服務外包，既不能(néng)包攬内容平台的終審責任，也不能(néng)與沒(méi)有資質的内容平台共享自己的資質。

三個“有利于”，之一是内容風險管理平台要有利于行業主管部門信息傳達和貫徹落實。内容風險管控平台應成(chéng)爲主管部門和平台、網民之間的溝通者，通過(guò)細化、量化審核标準，將(jiāng)主管部門要求落實到位；之二是要有利于整個行業的内容風險控制水平提高和規範發(fā)展。互聯網内容風險管理不是一家企業的獨奏，而是多領域企業的合唱，通過(guò)内容風險管理平台的建設、标準制定、技術研發(fā)，加強互聯網企業合作，共同爲淨化網絡環境貢獻力量；之三是要有利于各平台降低内容審核的成(chéng)本，豐富内容供給。平台化旨在將(jiāng)專業的事(shì)情交給專業機構來處理，不僅提高效率，降低成(chéng)本，還(hái)要讓更多網站更放心地投入内容生産，通過(guò)精準的辨别激濁揚清，通過(guò)不漏判、不錯判更好(hǎo)地鼓勵網站進(jìn)行内容生産傳播，實現更豐富的正能(néng)量總供給。

積極嘗試建設内容風險管理平台

人民網是“網上的人民日報”。在報社編委會(huì)和相關主管部門的指導下，人民網正在嘗試將(jiāng)内容審核業務作爲在新時代、新條件下延伸業務範圍，擴大影響力、提升引導力的創新嘗試。

一是積極建設“内容審核雲平台”。搭建審核平台，吸引其他網絡媒體和互聯網平台入駐，通過(guò)平台對(duì)自身和外部内容進(jìn)行集中審核、統一管理，實現審核操作标準化和智能(néng)化，利用集約效應，提高審核效率，降低相關網絡媒體和平台内容風險管理成(chéng)本。

二是完善技術平台和評價體系。習近平總書記在網絡安全和信息化工作座談會(huì)上講話指出，網上信息管理，網站應負主體責任，政府行政管理部門要加強監管。要把總書記的指示落到實處，就(jiù)要從源頭上厘清責任，將(jiāng)網上信息管理細化爲量化指标，便于評價。

三是推行績效考核與培訓機制。結合“管理密集型”和“人員密集型”兩(liǎng)大特質，不斷完善審核團隊人員的績效考核方式，調動每個人的積極性，做到人人盡責；規範人員管理，加強日常培訓，設立審核員、審核師、高級審核師等職稱序列，不斷提高業務能(néng)力與崗位認同。

四是充分利用智能(néng)化手段。海量内容信息需要借助技術手段進(jìn)行初步審核，網上内容信息的多樣(yàng)性和複雜性又需要人力審核的及時介入，爲此，平台需要加強對(duì)大數據、雲計算等技術應用的研發(fā)，形成(chéng)“AI+人工”審核機制，滿足内容審核的廣泛性和特殊性要求。

五是組建高級專家團隊對(duì)“精”“專”内容進(jìn)行審核。爲了準确判斷和處置網上少量而重要的深度、專業類内容，平台還(hái)聘請業内和學(xué)界資深專家牽頭，與相關管理機構、行業主管部委、專業研究機構建立常态溝通機制，針對(duì)審核中的疑點、難點内容進(jìn)行專業的終極把關。

人民網希望通過(guò)不斷嘗試并落實以上措施，真正建立起(qǐ)切實有效、服務社會(huì)的内容風險管理平台，爲主流價值護航，提升輿論引導力，爲營造天朗氣清的網絡空間做出更大貢獻。