導讀：這段時間以來，快手快手全員都處于異常忙碌的大整狀態，有內部員工表示，改上他們忙到一周都沒怎么睡覺，長控宿華在致歉信中提到的制模“完善社區運行規則”“建立未成年人保護體系”“打擊和清除低俗色情內容”等，也全都在一一對照改進落實。式封

　　距離國家廣播電視總局下發嚴肅處理“快手”“今日頭條”的禁萬通報，已經過去了十日。名用

　　這期間，快手“快手”在安卓應用商店暫時下架；“內涵段子”永久關停；火山小視頻、大整西瓜視頻整改升級。改上

　　短視頻行業持續震動。長控快手CEO宿華發出致歉信，制模向公眾承認錯誤，式封并宣布整改。禁萬這封致歉信被知名科技評論作者keso評論為“誠懇到宿華這樣的道歉，真的沒見過”。



　　但光有道歉是不夠的，“低俗”視頻怎么處理、未成年人如何保護、內容審核怎么人機結合、價值觀怎么把握，快手面臨大考。

　　據悉，在快手內部，已經達成共識，就是媒體和監管部門提出的問題確實存在，而且正如宿華在致歉信中寫的“是長久以來我們一直沒能重視的問題”，快手上下也發自內心覺得需要做一番徹底的反思和整改。

　　所以，這段時間以來，快手全員都處于異常忙碌的狀態，有內部員工表示，他們忙到一周都沒怎么睡覺，宿華在致歉信中提到的“完善社區運行規則”“建立未成年人保護體系”“打擊和清除低俗色情內容”等，也全都在一一對照改進落實。

　　從快手內部來說，也期待通過這次整改，優化和提升社區品質，撕掉low和低俗的標簽，重塑形象。

　　為什么“先審后發”還是出現了問題？

　　快手的內容審核壓力，并不是十天前才開始有的。

　　2018年春節期間快手用戶單日上傳視頻數量突破1500萬條，每分鐘上傳視頻的峰值達到43000條，創歷史新高。

　　這意味著快手原本的2000名內容審核員，要在機器的配合之下，對每天1500萬條視頻內容進行審核。當時快手對媒體表示：快手的內容評級團隊和產品技術團隊放棄了與家人團聚的機會，只為確保春節期間包括內容審核在內的用戶體驗“不缺位”。

　　從節后的效果來看，某些時候，內容審核“缺位”了。央視在節目中指出，快手太負面，熱捧早孕網紅，直播私奔。

　　按照快手方面的介紹，快手所有視頻都能做到先審后發。針對每條用戶上傳視頻，快手都會采用“四審三查”機制。四審包括上傳前預審、入庫前一審、發布前二審、發布中三審。第一次審核依靠來自機器的信息安全體系做判斷，第二次審核就開始引入人工。

　　除此之外還有三查，即全程官方巡查、全程用戶監督、內外監控體系。

　　全程官方巡查，指有專職全天候巡邏人員團隊，查缺補漏；全程用戶監督，建立了一套快捷高效的用戶與其他渠道投訴舉報體系；內外監控體系，有內外兩套獨立監察體系，互相監督。

　　但為什么百分之百的“先審后發”還是出現了問題？

　　有視頻平臺內容審核員告知，一般來說人工審核采用的方式是切幀，但現在的很多視頻的制作技巧比較新，比如只有幾個違規畫面短暫露出，審核難度較大。

　　還有一個問題在于：如果未成年媽媽在平臺上成為一個現象，那么這與平臺的審核能力無關，反而與平臺的審核原則有關，這也是快手此次整改的一個主要方向。

　　在快手，機器的審核能力也是經過訓練的：在以數千萬人工時計的案例判斷的基礎上，輔以深度學習智能識別技術，并憑借大量數據與長期實踐累積，建立了一套信息審核規則體系。

　　這套體系將歷史上已經完成判定的違規內容與判定標準明確的內容，先行過濾，色情暴力等違法違規內容不得上傳。

　　但社會道德問題在更新、變化。

　　“涉及到社會道德、公序良俗的內容判定，是短視頻行業共同面臨的難題。就快手來說，如果已經有人工進行判定的判例，機器會進行處理；如果是比較新的狀況，則需要人工先判定，然后再做處理。”快手內部人士告訴刺猬公社（ID：ciweigongshe）。

　　該人士還公開了一組數據，截止目前快手已經清理問題短視頻31萬條，封禁5.6萬名用戶，清理6.5萬個用戶名。



　　快手也宣布，將在原有2000名專職審核人員的基礎上，招聘3000名本科學歷并有較強政治敏感度與鑒別能力的審核員，落實共青團員和黨員優先政策，提供高于同行薪資，加快建立一支政治堅定、業務精湛的工作隊伍，所有審核員都會在進經過專業培訓后上崗。

　　算法的價值觀和流量如何均衡？

　　算法有沒有價值觀？

　　人民日報法人微博對今日頭條的嚴厲批評認為：如果一味追求爆款，卻不拆除引發危機的“爆破點”；如果貪圖飆車式發展，卻無視“剎車”功能失靈；如果只要價值，不要價值觀，甚至鼓吹“算法沒有價值觀”，就難免出事。產品不能淪為算法的奴隸。




　　宿華也在致歉信里說：“社區運行用到的算法是有價值觀的，因為算法的背后是人，算法的價值觀就是人的價值觀，算法的缺陷是價值觀上的缺陷。”

　　他在致歉信中為正確的價值觀劃了一個標準：

　　1.只有符合國家法律法規、遵循社會公序良俗的作品，才能進行算法推薦。

　　2.所有的算法規則，必須服從健康積極、陽光向上的價值觀。

　　3.改進算法，優先推薦個性化的更符合用戶興趣的正能量作品，放大優秀作品的影響力、感染力。

　　有使用快手習慣的用戶可能會發現，整改后，快手的發現頁面推薦內容短時間內變化較大。主流媒體的聲音被放大。

　　快手方面統計，在堅持社會主義核心價值觀指導算法，放大優秀作品的影響力、感染力，熱門頁面下線整改期間，平臺精心篩選正能量視頻共得到逾170億次曝光，獲得超31億次播放、6900萬次雙擊喜歡、9500萬條評論、3400萬次分享。



　　但不管是“正能量視頻”還是“主流媒體的聲音”，實際上都是放大了人工編輯在推送中的干預作用。這和算法推薦的邏輯，是相反的，習慣于快手百分之百算法推薦的用戶，可能會在短時間內感受到很大的不同。

　　快手方面對刺猬公社解釋稱，此次調整后，用戶使用快手的過程中，仍然會收到自己感興趣的內容，但發現頁正能量的視頻會有所增加。

　　另外，快手在保證視頻內容符合社會主義核心價值觀的前提下，會按照個人興趣以及拓展個人興趣邊界來推薦視頻內容，幫助用戶發現更廣闊的世界，避免信息繭房。

　　快手方面還表示，會尊重用戶的正常表達權，在保證視頻內容符合社會主義核心價值觀的前提下，會把用戶體驗放在首位。

　　如何保護平臺上的未成年用戶？

　　在快手的用戶群中，有一類是特殊的——未成年人。

　　此前，中央電視臺曝光快手和火山小視頻推未成年媽媽視頻，也成了整頓的導火索，輿論認為，快手和火山小視頻等短視頻平臺上未成年人的“出格”行為，可能會對更多的未成年人形成示范效應。

　　宿華在致歉信中已經明確提出，要建立未成年人保護體系，對視頻進行分級，對于未成年用戶可能看到的視頻，進行嚴格過濾，嚴禁未滿18歲用戶開通直播權限。



　　具體措施包括，4月12日起，快手上線“家長控制模式”，家長可通過密碼一鍵開啟/關閉“兒童鎖”功能，過濾不適宜未成年觀看的內容，并關閉開啟直播、直播打賞、查找、同城、錢包等功能，從4月13日起，發現頁未成年過濾內容池正式上線，該模式將持續進行迭代更新。

　，家長可以通過設置密碼，選擇開啟“家長控制模式”，和未開啟模式相比，頁面發生了較大變化，首頁同城入口消失，“八卦”“消息”“私信”“查找”等功能均無法使用。

　　如果是在“家長控制模式”之下使用快手，平臺吸引力至少損失三分之一。

　　一方面無法主動搜索關注熟人，私信入口被隱藏，除了已經互相關注的朋友，幾乎不能再進行定向的社交拓展；另一方面，“消息”功能消失，也就意味著未成年人發送到平臺上的視頻，缺乏了一個獲得點贊提示的窗口，對激發用戶的創作能力有較大的影響。

　　對快手來說，這次整頓其實是價值觀的重構。平臺的內容審核其實是存在容錯率的，不可能所有違規視頻都能逃過審核者的眼睛，應該說，所有的平臺都存在這個問題。

　　只是在視頻發出來以后，平臺可以自查，也可以收到來自用戶的舉報信息，遺漏視頻很容易得到處理，并不會引起太大的水花。

　　但顯然，這次整頓前夕，輿論攻擊的大多數視頻，在快手等平臺上都不是個例，這是審核原則的漏洞，體現出的是平臺的價值觀。

　　從這個層面上來看，快手想通過這次整頓，改變外界形象，確實是個還不錯的機會。

最新評論