快手向廣大用戶喊話:算法也有價值觀念,一定朝健康陽光邁進

2021-01-12 澎湃新聞

近一段時間,短視頻平臺快手因存在不良內容的問題而引發關注。

4月1日,央視新聞點名快手、火山小視頻等平臺上存在未成年孕婦、未成年媽媽和未成年二胎媽媽主播,央視新聞認為,早婚早育現象在中國部分經濟欠發達地區一直存在,而短視頻平臺則把這種現象推送到大眾面前。短視頻平臺絕非無辜,它提供的平臺,嚴重影響了少年兒童,起到了相當惡劣的作用。

對此,4月1日,快手做出回應稱,針對報導中提及的問題,快手進行了全站清查,採取了以下措施:查刪了數百個以低齡懷孕進行炒作的視頻,對個別影響惡劣的帳號直接封號。關閉關聯推薦功能,在搜索入口進行攔截,增補了審核規則,升級人工智慧識別系統,發現用戶上傳相關內容,將對上傳帳號立即處理,嚴重者直至封禁。

4月3日,快手發表創始人、CEO宿華的署名文章《接受批評,重整前行》。在文章中,宿華表示:「它(指快手)就像我的孩子,我和我的團隊耗費了無數的心血,但它卻並沒有長成我們理想中的樣子,平臺上出現了不該有的內容,對社會造成了非常不好的影響。十分感謝中央電視臺等媒體對快手的批評,讓我清醒地認識到自己的不足。」

宿華稱,社區運行用到的算法是有價值觀的,因為算法的背後是人,算法的價值觀就是人的價值觀,算法的缺陷是價值觀上的缺陷。

對此,宿華稱將重整社區運行規則,將正確的價值觀貫穿到算法推薦的所有邏輯之中,堅決抵制和刪除違法違規及色情低俗視頻,建立專門的青少年保護體系,打造一個風清氣朗、健康向上的負責任的網際網路社區。

具體而言,快手提出了五條整改措施:一、用正確的價值觀指導算法,二、梳理完善社區運行規則,三、建立未成年人保護體系,四、堅決打擊和清除低俗色情內容,四、堅決打擊和清除低俗色情內容。

快手官方網站的資料稱,GIF快手創始於2011年3月,在2013年從工具化應用轉型為短視頻社交應用,並於2014年更名為快手,目前快手全球用戶超過了4億。2016年,在快手走紅初期,一個頗為流行的說法是,快手平臺內的作品多以農村生活為背景、接地氣、獵奇、甚至以自虐為賣點。2017年,快手試圖改變過去的品牌形象,將平臺建設成:「記錄這個世界每個人平凡而美好的生活」的工具型應用。但隨著用戶基數的不斷增大,平臺不良內容識別與處理以及自我監管問題也成為了平臺的運營難點。

不只是快手,其他的短視頻、直播平臺,也受到了監管部門的密切關注。近來火爆的短視頻平臺抖音,有抖音用戶因模仿抖音平臺上流行的翻跟頭動作,而致使孩子受傷,對此,抖音回應稱我們提醒包括廣大家長在內的抖音用戶,在拍攝視頻時要注意安全,對於有難度的視頻不要輕易模仿,此外,抖音還將上線「風險提示系統」。

附:快手微信公眾號文章《接受批評,重整前行》

親愛的朋友們:

今年是快手社區誕生的第8個年頭。它就像我的孩子,我和我的團隊耗費了無數的心血,但它卻並沒有長成我們理想中的樣子,平臺上出現了不該有的內容,對社會造成了非常不好的影響。十分感謝中央電視臺等媒體對快手的批評,讓我清醒地認識到自己的不足。

所有信賴喜歡快手的用戶,以及關心愛護快手的朋友,我要向你們說聲對不起。

我一直在反思,我們做快手社區的初衷是希望讓每一個人都有能力記錄自己的生活,每一個人都有機會被世界看到,從而消解每一個人的孤獨感,提升每一個人的幸福感。現在看起來,我們做得不好,社區發展在一定程度上偏離了原來的方向。如果社區發展不能遵循初心,一切會變得沒有意義。社區運行用到的算法是有價值觀的,因為算法的背後是人,算法的價值觀就是人的價值觀,算法的缺陷是價值觀上的缺陷。

今天,快手爆發出來的問題,是長久以來我們一直沒能重視的問題,我們不會推諉責任和逃避監管。快手渴望跟所有的用戶一起,與這個國家、這個時代共成長。我們將重整社區運行規則,將正確的價值觀貫穿到算法推薦的所有邏輯之中,堅決抵制和刪除違法違規及色情低俗視頻,建立專門的青少年保護體系,打造一個風清氣朗、健康向上的負責任的網際網路社區。

一、用正確的價值觀指導算法

1.只有符合國家法律法規、遵循社會公序良俗的作品,才能進行算法推薦。

2.所有的算法規則,必須服從健康積極、陽光向上的價值觀。

3.改進算法,優先推薦個性化的更符合用戶興趣的正能量作品,放大優秀作品的影響力、感染力。

4.與高校開展AI技術及人才合作,不斷提升視頻分析理解方面的算法技術能力,並應用到視頻管理策略中去。

二、梳理完善社區運行規則

1.從即日起,無限期關閉推薦相似用戶的功能,直到確保該功能完全綠色正能量。

2.完善身份認證措施,對於未成年用戶,將用專門的策略限制內容展現和設置相應的社區權限。

3.加強用戶引導和教育,嚴厲打擊各類以不當方式吸引眼球的行為。

三、建立未成年人保護體系

1.對視頻進行分級,對於未成年用戶可能看到的視頻,進行嚴格過濾。

2.未成年用戶上傳的視頻中如含有各類不合適內容,嚴格清理並進行引導教育。

3.禁止未成年人在不受監管情況下註冊消費,如有侵犯未成年人權益,平臺將主動退還消費款項。對成人帳號疑似被未成年人使用消費情形,平臺將限制消費額度,並採取多次提醒家長制度。

4.建立相關未成年人保護公益基金,儘可能幫助面臨困難的未成年人。

5.在社區內成立未成年未婚早育危害宣傳委員會,幫助快手平臺內的年輕人樹立正確的婚戀觀、價值觀。

四、堅決打擊和清除低俗色情內容

1.打擊各類使用低俗標題、封面誘導點擊的行為。

2.對低俗與擦邊球內容全量多輪人工審核,研發升級算法識別體系。

3.積極配合公安機關,對違反社會治安、行為可疑或體現明顯惡意的用戶進行舉報。

4.對色情內容零容忍,聯合多平臺共同打擊跨網絡犯罪團夥。

五、藉助各方力量,共建清朗快手

1.積極接受政府有關部門管理和指導,改進優化審核規則和算法推薦。

2.邀請法律、傳播、社會、倫理等領域學術專家,組建短視頻內容合規性研究委員會,加大對視頻內容合規性案例的分析研判。

3.與高等院校和科研機構合作,利用平臺獲取的海量視頻大數據,探討用戶體驗和社會責任的合理界限。

4.優化舉報處置流程,加強舉報處置團隊建設,著手研究舉報核實獎勵機制,組建社區監督員隊伍。

此時此刻,我必須再一次向所有因為我們的錯誤而受到傷害的用戶和朋友們致以最深的歉意,希望你們能一如既往地關心、批評和支持我們。我也真誠接受並感謝媒體的監督與批評,認真落實管理部門的指導意見,不斷優化和提升社區品質。

快手社區一路走來,離不開每一個用戶的真誠陪伴。無論如何,我都希望你們相信,記錄這個世界每個人平凡而美好的生活,讓我們共同見證時間沉澱後的記錄價值,是我永不改變的追求。

我希望總是能與你們站在一起。

快手CEO 宿華

2018年4月3日

相關焦點

  • 產品與算法:抖音、快手的生態成因_鳳凰網
    抖音、快手兩個產品在成立之初,由於底層價值堅持不一樣,在產品設計、運營方法、分發算法上有著非常鮮明的區別,在此基礎上,兩個產品的達人/內容/用戶生態特徵也有較大差距。但今年來,兩個產品不斷迭代,都有向對方靠近的趨勢。-抖音:早期的口號是「記錄美好生活」,側重「美好」,相比快手的重視人,抖音更重視內容。
  • 快手服務商星站用算法破解中小商家運營難題
    對快手平臺邏輯的熟稔,讓星站團隊能夠快速完成對內容和人設的定義描畫,進而通過標題、封面等細節元素的深度策劃,確保優質內容快速被機器識別,同時精準推送給目標垂類的快手用戶。  緊跟直播電商風口,星站助力快手中小商家打通運營全鏈路  依託數據算法以及內容、渠道的深耕,星站團隊已經在吸粉引流上開拓出較為成熟的方法論。
  • 詳解快手音樂:短視頻+音樂流媒體,「用戶產消」跨平臺的融合價值 |...
    從快手對站內已有一定使用量(當時大約在幾十萬量級)的歌曲《興風作浪》和《天蓬大元帥》的有意選擇,再到這兩首作品通過音樂流媒體平臺推廣而取得亮眼成績,總體來看,實際上是實現了歌曲從短視頻大眾人群到聽歌用戶的跨場景擴圈。
  • 快手:開展 「低俗直播內容」專項治理,封禁多位百萬粉絲級別用戶
    7 月 15 日訊,快手社區官方帳號 「快手管理員」昨日發布公告,稱即日起開展 「低俗直播內容」專項治理,對於違規帳號將視情節進行限時封禁、永久封禁等處罰。快手表示,為落實企業主體責任,維護平臺良好氛圍,快手平臺即日起開展低俗直播內容專項治理行動,重點清查直播 PK 時過激懲罰、低俗語言、低俗互動、惡意炒作等行為,對於違規帳號將視情節進行限時封禁、永久封禁等處罰。在快手公示的違規被封禁用戶名單中,有 11 位用戶的粉絲數高達百萬以上,最多高達 670 萬。
  • 快手電商推出商家「雙百」扶持計劃
    在張一鵬看來,直播電商未來的市場規模非常巨大,所以快手電商並不太看重競爭思維,而是更加看重行業整體的長遠、健康發展,能夠讓直播電商市場像有機體一樣不斷地繁榮、淨化,最終使得產業鏈的參與者都能夠在其中獲得自己的商業收益,滿足用戶價值。
  • 算法左右歌曲推薦,而不是用戶喜好?
    編輯導語:如今,不少的音樂類軟體比如:QQ音樂、網易雲音樂,甚至短視頻類的抖音,都會向用戶推薦可能喜歡的歌曲/背景音樂。在這個大數據時代,算法支配著受眾,因此歌曲的推薦也基於算法先行,這就導致了用戶聽到的歌曲和喜好偏離,用戶聽到的都是同質化的、略顯「枯燥」的音樂。
  • 讀者變為用戶 別掉進算法的「陷阱」
    但是不得不說,算法不僅存在加劇用戶使用網絡時長的風險,甚至使用戶陷入網際網路和數據編制的巨大網絡,更加難以全身而退。網際網路的基本思維是「連接一切」,算法在此基礎上通過龐大數據系統,追求更精準的價值關係聯結,其出發點的核心是人,這也是智能算法能夠為網絡文藝發展帶來嶄新路徑與動力的根本原因。
  • SEO算法:巴郎深談石榴算法與算法對策
    --一直以來,我們本著為用戶提供最優質直接的信息的原則,不斷優化算法、升級系統。保護優質頁面與打壓低質頁面是一直都運用的兩種方式。--本次想向各位站長朋友傳達,我們將針對低質量頁面將進行一系列調整,我們稱之為石榴算法。--第一期將對此類頁面生效:含有大量妨礙用戶正常瀏覽的惡劣廣告的頁面,尤其以彈出大量低質彈窗廣告、混淆頁面主體內容的垃圾廣告頁面為代表。
  • 微博、抖音、快手、小紅書,那些看得見的粉絲價值……
    新媒體發展迅速,平臺生態成熟,「用戶時長」成為了各大平臺爭奪的目標。眾所周知,得「粉絲」者得「天下」,「粉絲」對於「KOL」與平臺都是魚和水的關係。因為各大平臺粉絲用戶群體存在差異,所以一些潛在的粉絲價值容易被忽略。為此,克勞銳統計微博、抖音、快手、小紅書四大社交平臺粉絲數據,帶大家一起去發現那些看得見的粉絲價值。
  • 李頡院士:核心算法和相關系統軟體缺位,人工智慧也有面臨「卡脖子...
    李頡教授表示,比如,用開原始碼開發的人工智慧算法即使可以準確進行人臉識別,但在對醫學影像的識別上卻難以達到臨床要求。我國對源自國外的系統軟體框架也有較深的依賴,這也是人工智慧生態系統的一大「短板」。可能減緩2030年之前與先進國家縮小人工智慧技術差距計劃的實施,我國在人工智慧相關的基礎軟體和系統算法方面有待進一步提高。
  • 打開算法「黑盒子」 是向全社會釋放紅利
    原標題:打開算法「黑盒子」,是向全社會釋放紅利   「算法」已成熱詞。   《未來簡史》作者赫拉利,就有個大膽的論斷:生物就是算法,生命就是進行算法處理;人類將環境參數作為輸入數據,經過認知能力的處理,輸出感受和決策等數據,從而決定了我們的喜怒哀樂以及行動。
  • 單場銷售從1萬到20萬、客單價達150,快手服務商星站用算法破解中小...
    對快手平臺邏輯的熟稔,讓星站團隊能夠快速完成對內容和人設的定義描畫,進而通過標題、封面等細節元素的深度策劃,確保優質內容快速被機器識別,同時精準推送給目標垂類的快手用戶。緊跟直播電商風口,星站助力快手中小商家打通運營全鏈路依託數據算法以及內容、渠道的深耕,星站團隊已經在吸粉引流上開拓出較為成熟的方法論。
  • 周杰倫首場快手直播數據惹眼,價值究竟幾何?
    但是,平臺得到的價值真如戰報描述的那樣美好嗎?原生網紅的積極性受到打擊,之前就有快手頭部網紅辛巴向平臺喊話:「我希望快手能把眼睛擦亮一點,重視原生網紅帶來的價值和資源,部分類目當中,可以調動整個國內的資源,請運用好我身上的本事和資源……」第二, 像周杰倫這樣獨家籤約的模式並不能大規模的複製。
  • 快手又處置395個「直播間惡意違規」用戶
    鞭牛士報導 快手官方號「快手管理員」近日發布公告稱:對平臺上惡意擾亂直播環境的395個帳號進行了處置,其中1人因在直播間與主播連麥時發表嚴重不當言論,在快手平臺的配合下被警方抓獲歸案。
  • 「偏好」算法帶偏閱讀
    半月談記者 餘孝忠、王陽、邵魯文  「孩子抱著手機刷個不停像是中了毒」「刷抖音、看快手成了留守兒童最喜歡的娛樂活動」……網絡信息多樣、開放、共享,而一味迎合受眾的閱讀偏好,計算方法簡單,定向推送粗暴,讓讀者尤其是鑑別力、自控力不強的青少年越「好」越「偏」。
  • ...算法」不能胡來!中消協:別讓消費者淪為平臺經營者的掌中「玩物」
    有些經營者通過算法應用推送的商品、服務內容甚至違背法律和公序良俗。2價格算法有些經營者利用算法進行價格歧視。一是對新老用戶制定不同價格,會員用戶反而比普通用戶價格更貴。二是對不同地區的消費者制定不同價格。三是多次瀏覽頁面的用戶可能面臨價格上漲。四是利用繁複促銷規則和算法,實行價格混淆設置,吸引計算真實價格困難的消費者。這類算法造成選擇性目標傷害。
  • 抖音/快手下沉老年用戶 VS 老年垂直APP全力出圈
    在健康養生方面,快手上的百萬級帳號「少林《正能量》」粉絲接近300萬,41歲以上佔比達到38.74%。書法方面,「感覺硬筆書法」粉絲111萬,41歲以上佔比24%。除了這些,民間樂器(嗩吶、二胡)、廣場舞、釣魚等類目裡的帳號都聚集了大量中老年用戶。
  • 快手商業四劍客:為用戶體驗而戰
    2019年春節前夕,一直很低調的快手也加入了「春節營銷大軍」,從公交海報到春節紅包,快手老鐵們的微笑與喜悅感染了不少人。鏡頭快速移動,剛剛搬到新家的快手園區裡同樣熱鬧非凡,園區滾動播放的宣傳片《想要對你說》的旋律讓人不禁跟著輕唱,「想要對你說,請你們知道你是我的驕傲。」宣傳片中出鏡的正是李勇保的妻子和兒子。
  • 中消協點名平臺算法 技術欺凌消費者要不得
    有些經營者通過算法應用推送的商品、服務內容甚至違背法律和公序良俗。   價格算法。有些經營者利用算法進行價格歧視。一是對新老用戶制定不同價格,會員用戶反而比普通用戶價格更貴;二是對不同地區的消費者制定不同價格;三是多次瀏覽頁面的用戶可能面臨價格上漲;四是利用繁複促銷規則和算法,實行價格混淆設置,吸引計算真實價格困難的消費者。   評價算法。
  • 短視頻競品分析報告:抖音 vs 快手
    目前快手除了這些頻道在功能和內容上需要進一步進行優化迭代外,個人建議平臺在核心功能和用戶的核心使用路徑裡添加更多的引導,一方面是讓更多不常使用側邊欄的用戶知曉這些功能的存在,另一方面也有利於培養用戶的使用習慣和背後的行為動機,降低用戶的心理門檻。