不作惡?谷歌郵件審查應引起我們警惕

2021-03-04 大數據文摘

點擊標題下「大數據文摘」可快捷關注

譯/徐笑音 校/丁盈幸

摘自:福布斯中文網(微信公號:forbeschinaonline)

谷歌(Google)日前交出一名Gmail用戶,此人涉嫌傳播兒童色情內容,對此,不會有很多人抱怨。說真的,為什麼要抱怨呢?如果指控得到了證明,約翰·亨利·斯基勒恩(John Henry Skillern)就犯下了罪行,並且應當面對司法審判。谷歌只是見義勇為,利用其技術審查我們的電子郵件,並幫助執法機關讓世界變得更美好。我們這些奉公守法的公民沒什麼好怕的,我們可以好好謝謝山景城這些谷歌員工的正義之舉。

如果上述文字沒有讓你有絲毫害怕的感覺,那麼請認真讀以下內容:你應當感到害怕。自十多年前成立以來,谷歌一直在對Gmail郵件進行審查,但目的非常狹窄:只是為了過濾出垃圾郵件並試圖在你通常閱讀的郵件中呈現定向廣告。近來不久,谷歌認為它還能做更多的事。

谷歌參與抵制在線剝削兒童之戰已有一段時日,這種行為值得讚揚。在過去至少八年的時間裡,谷歌致力於通過技術方案阻止或放緩未成年色情圖片的傳播。2008年,谷歌開始利用一種名為「hashing」的技術來為已知圖片編碼,這樣就能在整個網絡中尋找這些圖片,並應該可以避免把它們編入索引。

「每一張兒童遭受性虐待的圖片都被賦予了一個獨特的技術指紋,這使得我們的系統能夠識別這些照片,包括Gmail郵件中的這類照片。」谷歌公司在一封電子郵件中對《紐約時報》(New York Times)說道。這種做法是從何時開始的呢?谷歌沒有說。但谷歌想讓你放心。「重要的是要記住,我們只用該技術來識別兒童遭受性虐待的圖片,而其他可能與犯罪活動有關的電子郵件內容(例如,利用電子郵件來策划行竊)不在我們的關注範圍內。」

因此,如果你今天打算策劃一場入室盜竊,盡可以放心使用Gmail進行聯絡。但要留心,明天情況可能就變了。也許谷歌明天會認定——稅收對於一個健全國家的運作來說非常重要,然後開始將討論「激進會計法」(aggressive accounting)的郵件上交給美國國稅局。或者也許谷歌會得出這樣的結論——其在大數據方面所做的努力可以用以預測犯罪,於是開始向執法部門匿名轉發一系列提示,舉報與可能發生的家庭暴力、貪汙挪用或者任何恐怖策劃等相關的各類內容。

在某個盡善盡美的世界裡,這可能會對社會有益。但是任何看過《少數派報告》(2002年)這部電影的人都可以見證,局面很容易失控。作為警示,只消看看如今的Gmail。儘管谷歌在對付垃圾郵件方面取得了種種成功,通常仍有一些垃圾郵件會進入我們的收件箱。就在前些天,我收到了一封奈及利亞騙局式的詐騙郵件,只不過這一次打著敘利亞的旗號。同一天,這個垃圾郵件過濾系統無意中屏蔽了一封銀行寄給我的合法郵件,之所以被我逮了個正著,是因為我正在刪除那封詐騙郵件。

由於這些原因,也許我們可以稍許獲得些慰藉:近期,谷歌不可能開始上報一些有關我們不良行為的內容。但我們不能確信的是——谷歌將永遠替我們保密。在一份對Gmail的審查提起的訴訟中,谷歌明確表示它認為自己掃描用戶電子郵件的權利沒什麼限制。谷歌說,因為需要過濾病毒、搜索收件箱並對郵件進行分類等,所以一直在不停地進行郵件審查。而你已經接受了它——作為免費服務條款一部分,這種交換是「只要我們能向你發送廣告,你就可以免費享受服務」。

但谷歌的說法提出了一個問題,我們都應該問問自己:這是否值得?谷歌公司在這份訴訟中指出,最近修改了隱私政策作為繼續使用Gmail的條件,而原告接受了這些變更條款。Facebook利用Messenger也採取了類似的做法,該應用取代了原本內置於其移動客戶端的消息發送功能。用戶要麼接受這些條款,要麼放棄使用Facebook的消息功能。

那都是些什麼條款?「允許該應用隨時利用麥克風錄音」……無需得到你的確認;允許該應用隨時利用攝像頭拍攝照片和視頻……無需得到你的確認;允許該應用讀取手機上的通話記錄,包括來電和去電數據。」這些只是數百萬用戶已經接受的一部分條款。其中大部分授權Facebook要來何用,我們無法理解,但如今它已經得到這些授權了。

回到谷歌這件事上來。沒有什麼能夠阻止它要求約5億Gmail用戶接受它接下來所決定的事。比如,用戶協議這樣改一下:「我們可以不時地將有關涉嫌犯罪的信息提交給執法人員。」在愛德華·斯諾登(Edward Snowden)的事件出現以後,大多數人都應該清楚地認識到,隨意獲取個人信息讓我們走上了一條不歸路。

不幸地是,情況並不是這樣。對於我日前的報導,大家的反應顯然很冷漠。「我沒什麼好藏著掖著的,所以我其實不在乎。」一位年輕女性在聽說谷歌對郵件進行審查時說道。也許她是對的,但等她有了孩子,給孩子拍了一張天真無邪的照片並將該照片發送給一位親戚時情況也許會不一樣。也許到那時,谷歌的審查技術變得更為激進,會錯把該照片當做一張色情圖片。(別忘了,谷歌甄別垃圾郵件的技術並不可靠,準確率遠沒有達到100%。)

或者也許隨著谷歌在市場上越做越大,它會與政府達成協議,用更多關於用戶可能進行不法活動的信息,換來政府在反壟斷監管上放自己一馬。

套用馬丁·尼莫拉(Martin Niemöller)牧師那首著名的短詩:他們先是來抓兒童色情作者,我沒有說話,因為我不是兒童色情作者。接著他們來抓恐怖分子,我沒有說話,因為我也不是恐怖分子。他們又來抓逃稅者,我還是沒有說話,因為和我無關。但當他們來抓我,因為我膽敢質疑他們無節制的權威時,「再也沒有人站出來為我說話了」。

也許正義已經得到了伸張。一旦斯基勒恩出庭我們將會得到消息。但這樹立了一個非常危險的先例:一家私人公司得出這樣的結論——如果技術能夠解決問題,就應該被充分釋放。未來將會發展成什麼樣子?我們很難不心懷擔憂。

大數據文摘精彩文章:

回復谷歌 看其在大數據領域的舉措

回復院士 看眾多院士如何講大數據

回複色情 這個,你懂的,可是你真的懂嗎?

回復隱私 看看在大數據時代還有多少隱私

回復醫療 查看醫療領域文章6篇

回復徵信 大數據徵信專題四篇

回復大國 "大數據國家檔案"之美國等12國

回復體育 大數據在網球、NBA等應用案例

回復平安 中國平安相關大數據案例、新聞

回復志願者 了解大數據文摘及如何加入

相關焦點

  • 開除AI倫理學家,谷歌如何從「不作惡」到「不寬容」?
    一方面谷歌必須要通過制裁「錯誤觀點」來平息紛爭,一方面又等於違背自己主張的「多元化」的企業文化。不管谷歌管理層怎麼做,谷歌內部的分裂依然出現。從「不作惡」到「做正確的事」:谷歌如何改變初心?性別議題只是谷歌面對內部價值觀分裂的一個問題,後面谷歌官方在一些核心價值觀問題上的決策則讓其站在了全體員工的對立面上,被放在道德的審判臺上反覆炙烤。
  • 谷歌加強敏感話題審查 涉及性別、種族等
    原標題:谷歌加強敏感話題審查 涉及性別、種族等   據路透社報導,日前,谷歌AI部門要求其研究人員在
  • 谷歌郵件表面警告用戶新電腦上登陸Gmail
    然而甚至邊緣尚未威脅到Chrome的霸主主體,但谷歌對此已經十分警惕,近日,據外媒報導,由用戶反饋稱,使用邊緣瀏覽器登陸Gmail的用戶都收到了谷歌的警告和推廣郵件。據悉,該郵件雖然表面上是警告用戶在新電腦上登陸了Gmail,但點開郵件後大部分內容是Chrome瀏覽器的廣告,並且還附贈了一個下載連結。
  • 被指開除高級研究員,谷歌大神Jeff Dean回應:是她說不答應條件就離職
    機器之心報導機器之心編輯部曾經把圖靈獎獲得者 Yann LeCun 逼到「永久退出社交網絡」的 AI 平權著名研究者 Timnit Gebru 被谷歌解僱了,這次被指作惡的是她的頂頭上司,谷歌 AI 總負責人 Jeff Dean,然而事情沒有這麼簡單
  • 谷歌CEO道歉被批「沒有人性」,Gebru:他們就想趕我走
    儘管後來谷歌AI部門老大Jeff Dean寫信澄清,Gebru乃是「以辭職相要挾,最後如願以償」,但公司內外的批評聲不減反增。昨日,谷歌CEO皮採向谷歌員工發了一封內部郵件,意在解決Gebru的辭職風波,為此事畫上一個句號。
  • 華益弘的跨年晚會有什麼背景:谷歌促銷遭嚴厲審查
    英國金融行為監管局(FCA,Financial Conduct Authority)周四表示,谷歌應立即主動採取行動,更好地審查金融產品的付費促銷活動。此前,該監管機構對一支破產基金髮布了一份嚴厲報告。
  • 英國要求谷歌更嚴格地審查網上金融促銷活動
    據報導,英國金融行為監管局(FCA,Financial Conduct Authority)周四表示,谷歌應立即主動採取行動,更好地審查金融產品的付費促銷活動。此前,該監管機構對一支破產基金髮布了一份嚴厲報告。
  • 西安婦科醫院:白帶異常需引起高度警惕
    核心提示:有過性生活的女性經常會出現白帶異常的表現,如:白帶發黃,黃綠色白帶,豆腐渣樣白帶,甚至有些出現惡臭,這多是由婦科炎症引起的。白帶異常會有哪些表現?為什麼會出現白帶異常?白帶異常嚴重嗎?白帶異常應該怎麼辦?西安蓮湖生殖婦科醫院專家給我們具體做些介紹。
  • Zoom或推出電子郵件和日曆應用程式,與谷歌和微軟競爭
    打開APP Zoom或推出電子郵件和日曆應用程式,與谷歌和微軟競爭 TechWeb.com.cn 發表於 2020-12-24 11:11:17
  • 這個女人被炒魷魚 結果谷歌1400名員工炸了鍋
    這個周末,AI圈的一件事在社交網絡引起軒然大波:谷歌AI倫理團隊聯合負責人Timnit Gebru被解僱。3日,Gebru公開了她發給谷歌Brain女員工和其他同事的郵件內容。原來,她一直希望發表她的一篇研究論文,但是一直遭到上級反對。在郵件裡,她還揭露了谷歌對黑人這一弱勢群體的不公平對待,以及對AI倫理的不重視。正是因為這封郵件,被爆出「不符合谷歌管理者的期望」,因而被解僱。
  • 谷歌AI啟動敏感話題審查,要求研究員在論文中「保持積極態度」
    這主要來自對包括面孔、性感分析,以及性別、種族、意識形態等在內的敏感話題類的研究論文增加的一道審查,在此之前研究人員還需要先諮詢法律、政策和公司的公關部門。  該規定其中有一頁這樣寫道:「 技術的進步和外部日益複雜的環境情況,導致看似有冒犯性的研究項目引發道德、聲譽、法律法規等問題。
  • 四部門:「為非作惡、欺壓百姓」為惡勢力判斷主要標準
    意見強調要將有無「為非作惡、欺壓百姓」特徵作為審查判斷惡勢力的主要標準,同時明確規定,對於不具有為非作惡、欺壓百姓特徵,單純為牟取不法經濟利益而實施的違法犯罪,或者因民間糾紛而引發以及其他確屬事出有因的違法犯罪活動,不應作為惡勢力案件處理。
  • 谷歌傑夫迪恩寫了一封信逆轉劇情,被炮轟主動離職而不是被辭退
    谷歌AI老大強硬回應:執意提交漏洞百出的論文如果你還記得上周谷歌「辭退」Timnit的事情,你可能知道當時Twitter上是一邊倒的支持Timnit。Timnit在郵件中表達了她對自己論文沒有通過谷歌審核的不滿,表示對谷歌的多元化聲明非常失望。
  • 韓監管機構加速審查谷歌上調佣金計劃
    韓國最高反壟斷監管機構公平貿易委員會(KFTC)正在加速審查谷歌的新政策及其影響,後者計劃明年10月將通過其應用商店進行的交易佣金提高到30%。KFTC正在對通過谷歌應用商店推出應用服務的韓國遊戲開發商、在線音樂流媒體和網絡平臺運營商進行調查。
  • Gmail遭受垃圾郵件問題困擾 谷歌已經解決了這個問題
    中國郵箱網訊 7月7日消息 Gmail之類的工具已使我們習慣於收件箱中幾乎清除了所有不需要的電子郵件。但是算法並不總是能達到最佳效果,並且確實會發生錯誤。在過去幾天中,一些用戶抱怨垃圾郵件過濾器對其Gmail帳戶無效。這導致了社交媒體上的幾起投訴,使Google意識到了這一問題。
  • 韓國加快審查谷歌上調佣金計劃:影響開發者收入
    據報導,韓國公平貿易委員會(KFTC)正加快對谷歌佣金新政策的審查,該政策將把應用程式(App)交易的佣金提高到30%。報導稱,KFTC正在接觸當地的遊戲開發商、在線音樂流媒體和網絡卡通(webtoon)平臺運營商,以調查相關事宜。
  • 紐約時報:嚴格審查難阻德國網際網路發展
    以下為文章全文:  審查科技三巨頭  劉晨超(ChenChao Liu,音譯)在Facebook上擁有446名好友,他對自己的iPhone 3GS非常滿意,他還是谷歌搜索和谷歌地圖的鐵桿用戶。   從這一點來看,21歲的劉晨超跟許多美國大學生別無二致,但他卻住在德國。
  • 谷歌全球服務中斷45分鐘,多項服務受影響
    對於使用谷歌辦公套件的用戶而言,可能影響了他們的正常工作,因為該套件涉及到郵件交流,內部聊天應用,以及文檔、表格和幻燈片等程序。此外,美國一些最大的公司都依賴 Google 服務,包括 Uber、Netflix 和 Twitter 等,服務中斷可謂牽一髮而動全身。
  • Facebook作過哪些惡?
    摘要:Facebook數據醜聞不斷發酵,個人隱私大數據被濫用,個人行為被假新聞引導……Facebook這樣的巨頭,到底作過哪些惡?在整個事件的狂風暴雨中,扎克伯格卻沒有在第一時間發表道歉並給出強有力的措施,而是選擇了沉默,Facebook的各路高管也一直為自己辯解,聲稱錯不在自己。一直到今天,扎克伯格才在媒體公開道歉,但為時已晚,廣告商紛紛撤離,各國政府也對Facebook進行「清算」。僅美國政府的罰款,如果按照上限來計算,就高達2萬億美元,遠高於其市值。那麼,Facebook只做了這一次惡嗎?
  • 谷歌助手引發隱私爭議,1300萬美元不夠買 「教訓」?
    在這個領域,谷歌正在與亞馬遜的Alexa、微軟的Cortana和蘋果的Siri爭奪市場份額。虛擬助手的隱私和安全問題對智能家居的投資也催生了智能揚聲器。因此,谷歌與亞馬遜展開了激烈的競爭。然而,虛擬助手也引起人們對隱私的擔憂。智能設備缺乏數據保密性和被動監聽是一個主要問題。微軟進行的一項研究表明,人們不願意與網際網路公司分享自己的數據。