近一段時間,短視頻平臺快手因存在不良內容的問題而引發關注。
4月1日,央視新聞點名快手、火山小視頻等平臺上存在未成年孕婦、未成年媽媽和未成年二胎媽媽主播,央視新聞認為,早婚早育現象在中國部分經濟欠發達地區一直存在,而短視頻平臺則把這種現象推送到大眾面前。短視頻平臺絕非無辜,它提供的平臺,嚴重影響了少年兒童,起到了相當惡劣的作用。
對此,4月1日,快手做出回應稱,針對報導中提及的問題,快手進行了全站清查,採取了以下措施:查刪了數百個以低齡懷孕進行炒作的視頻,對個別影響惡劣的帳號直接封號。關閉關聯推薦功能,在搜索入口進行攔截,增補了審核規則,升級人工智慧識別系統,發現用戶上傳相關內容,將對上傳帳號立即處理,嚴重者直至封禁。
4月3日,快手發表創始人、CEO宿華的署名文章《接受批評,重整前行》。在文章中,宿華表示:「它(指快手)就像我的孩子,我和我的團隊耗費了無數的心血,但它卻並沒有長成我們理想中的樣子,平臺上出現了不該有的內容,對社會造成了非常不好的影響。十分感謝中央電視臺等媒體對快手的批評,讓我清醒地認識到自己的不足。」
宿華稱,社區運行用到的算法是有價值觀的,因為算法的背後是人,算法的價值觀就是人的價值觀,算法的缺陷是價值觀上的缺陷。
對此,宿華稱將重整社區運行規則,將正確的價值觀貫穿到算法推薦的所有邏輯之中,堅決抵制和刪除違法違規及色情低俗視頻,建立專門的青少年保護體系,打造一個風清氣朗、健康向上的負責任的網際網路社區。
具體而言,快手提出了五條整改措施:一、用正確的價值觀指導算法,二、梳理完善社區運行規則,三、建立未成年人保護體系,四、堅決打擊和清除低俗色情內容,四、堅決打擊和清除低俗色情內容。
快手官方網站的資料稱,GIF快手創始於2011年3月,在2013年從工具化應用轉型為短視頻社交應用,並於2014年更名為快手,目前快手全球用戶超過了4億。2016年,在快手走紅初期,一個頗為流行的說法是,快手平臺內的作品多以農村生活為背景、接地氣、獵奇、甚至以自虐為賣點。2017年,快手試圖改變過去的品牌形象,將平臺建設成:「記錄這個世界每個人平凡而美好的生活」的工具型應用。但隨著用戶基數的不斷增大,平臺不良內容識別與處理以及自我監管問題也成為了平臺的運營難點。
不只是快手,其他的短視頻、直播平臺,也受到了監管部門的密切關注。近來火爆的短視頻平臺抖音,有抖音用戶因模仿抖音平臺上流行的翻跟頭動作,而致使孩子受傷,對此,抖音回應稱我們提醒包括廣大家長在內的抖音用戶,在拍攝視頻時要注意安全,對於有難度的視頻不要輕易模仿,此外,抖音還將上線「風險提示系統」。
附:快手微信公眾號文章《接受批評,重整前行》
親愛的朋友們:
今年是快手社區誕生的第8個年頭。它就像我的孩子,我和我的團隊耗費了無數的心血,但它卻並沒有長成我們理想中的樣子,平臺上出現了不該有的內容,對社會造成了非常不好的影響。十分感謝中央電視臺等媒體對快手的批評,讓我清醒地認識到自己的不足。
所有信賴喜歡快手的用戶,以及關心愛護快手的朋友,我要向你們說聲對不起。
我一直在反思,我們做快手社區的初衷是希望讓每一個人都有能力記錄自己的生活,每一個人都有機會被世界看到,從而消解每一個人的孤獨感,提升每一個人的幸福感。現在看起來,我們做得不好,社區發展在一定程度上偏離了原來的方向。如果社區發展不能遵循初心,一切會變得沒有意義。社區運行用到的算法是有價值觀的,因為算法的背後是人,算法的價值觀就是人的價值觀,算法的缺陷是價值觀上的缺陷。
今天,快手爆發出來的問題,是長久以來我們一直沒能重視的問題,我們不會推諉責任和逃避監管。快手渴望跟所有的用戶一起,與這個國家、這個時代共成長。我們將重整社區運行規則,將正確的價值觀貫穿到算法推薦的所有邏輯之中,堅決抵制和刪除違法違規及色情低俗視頻,建立專門的青少年保護體系,打造一個風清氣朗、健康向上的負責任的網際網路社區。
一、用正確的價值觀指導算法
1.只有符合國家法律法規、遵循社會公序良俗的作品,才能進行算法推薦。
2.所有的算法規則,必須服從健康積極、陽光向上的價值觀。
3.改進算法,優先推薦個性化的更符合用戶興趣的正能量作品,放大優秀作品的影響力、感染力。
4.與高校開展AI技術及人才合作,不斷提升視頻分析理解方面的算法技術能力,並應用到視頻管理策略中去。
二、梳理完善社區運行規則
1.從即日起,無限期關閉推薦相似用戶的功能,直到確保該功能完全綠色正能量。
2.完善身份認證措施,對於未成年用戶,將用專門的策略限制內容展現和設置相應的社區權限。
3.加強用戶引導和教育,嚴厲打擊各類以不當方式吸引眼球的行為。
三、建立未成年人保護體系
1.對視頻進行分級,對於未成年用戶可能看到的視頻,進行嚴格過濾。
2.未成年用戶上傳的視頻中如含有各類不合適內容,嚴格清理並進行引導教育。
3.禁止未成年人在不受監管情況下註冊消費,如有侵犯未成年人權益,平臺將主動退還消費款項。對成人帳號疑似被未成年人使用消費情形,平臺將限制消費額度,並採取多次提醒家長制度。
4.建立相關未成年人保護公益基金,儘可能幫助面臨困難的未成年人。
5.在社區內成立未成年未婚早育危害宣傳委員會,幫助快手平臺內的年輕人樹立正確的婚戀觀、價值觀。
四、堅決打擊和清除低俗色情內容
1.打擊各類使用低俗標題、封面誘導點擊的行為。
2.對低俗與擦邊球內容全量多輪人工審核,研發升級算法識別體系。
3.積極配合公安機關,對違反社會治安、行為可疑或體現明顯惡意的用戶進行舉報。
4.對色情內容零容忍,聯合多平臺共同打擊跨網絡犯罪團夥。
五、藉助各方力量,共建清朗快手
1.積極接受政府有關部門管理和指導,改進優化審核規則和算法推薦。
2.邀請法律、傳播、社會、倫理等領域學術專家,組建短視頻內容合規性研究委員會,加大對視頻內容合規性案例的分析研判。
3.與高等院校和科研機構合作,利用平臺獲取的海量視頻大數據,探討用戶體驗和社會責任的合理界限。
4.優化舉報處置流程,加強舉報處置團隊建設,著手研究舉報核實獎勵機制,組建社區監督員隊伍。
此時此刻,我必須再一次向所有因為我們的錯誤而受到傷害的用戶和朋友們致以最深的歉意,希望你們能一如既往地關心、批評和支持我們。我也真誠接受並感謝媒體的監督與批評,認真落實管理部門的指導意見,不斷優化和提升社區品質。
快手社區一路走來,離不開每一個用戶的真誠陪伴。無論如何,我都希望你們相信,記錄這個世界每個人平凡而美好的生活,讓我們共同見證時間沉澱後的記錄價值,是我永不改變的追求。
我希望總是能與你們站在一起。
快手CEO 宿華
2018年4月3日