用戶能夠很容易在微軟的必應搜尋引擎中找到非法的兒童色情圖片，但更令人擔憂的是，必應會推薦相關的關鍵詞和圖片，為戀童癖者提供更多的兒童色情內容。在接到匿名舉報後，TechCrunch 委託網絡安全初創公司 AntiToxin 展開了一項調查，結果令人震驚。
警告：不要在必應或其他地方搜索本文所討論的關鍵詞，因為那可能涉嫌犯罪。AntiToxin 受到法律顧問的密切監督，並且是跟以色列當局合作開展此項調查的，調查結果已經妥善地提交給了執法部門。本文不包含任何非法圖片，這裡和 AntiToxin 的報告中都使用紅框對相關圖片進行了遮擋處理。】
調查發現，在搜索「porn kids」（兒童色情）、「porn CP」（CP 是「兒童色情作品」的英文首字母縮寫）和「nude family kids」（家居裸體小孩）這些關鍵詞時，必應會返回非法的兒童性剝削圖片，甚至於那些沒有搜索此類圖片的人也會被必應引流到這樣的內容上去。
當調查人員搜索「Omegle Kids」（Omegle 上的孩子）時——Omegle 是一款在青少年中間很流行的視頻聊天應用——必應的自動補全功能給出了「Omegle Kids Girls 13」（Omegle 上的 13 歲女孩）的建議，如果使用這個詞組進行搜索，結果便會出現大量兒童色情內容。如果用戶點擊瀏覽那些圖片，必應會在其類似圖片功能中展示更多非法的兒童性剝削圖片。在搜索另一組關鍵詞「Omegle for 12 years old」（Omegle 上的 12 歲孩子）時，必應給出了搜索「Kids On Omegle Showing」（Omegle 上孩子在不可描述）的建議，那會返回更多涉嫌犯罪的內容。
這些證據表明，微軟在監管其必應搜尋引擎以及阻止搜索建議和類似圖片推薦為戀童癖者提供便利方面遭遇了巨大的失敗。不同於必應，在谷歌上搜索類似的關鍵詞並不會返回明顯違法的圖片或內容。像微軟必應這樣的網際網路公司必須投入更多，通過可擴展的技術解決方案以及人工審核，打擊這類濫用行為。對微軟這家在上季度取得 88 億美元利潤的公司來說，不為安全措施提供充足資金保障是找不到任何藉口的。
有人匿名把必應搜索這些令人不安的問題報告給了 TechCrunch。在這之前的去年 12 月，筆者曾 撰文報導 過 WhatsApp 上存在兒童性剝削圖片交易群組的事情，以及 Google Play 上有第三方應用為這些群組牽線搭橋並 通過谷歌和 Facebook 的廣告網絡獲得收入（同時也讓谷歌和 Facebook 這些平臺獲利）。在這些報導發表後，WhatsApp 對那些群組及其成員進行了封號處理，谷歌則從 Google Play 中移除了那些為 WhatsApp 群組牽線的應用，此外谷歌和 Facebook 都禁止此類應用展示自家平臺的廣告，Facebook 還同意把費用退還給廣告商。
不安全的搜索
在接到匿名舉報後，TechCrunch 委託 AntiToxin 對必應搜索存在的問題展開調查。在適當的法律監督之下，調查人員在 2018 年 12 月 30 日至 2019 年 1 月 7 日間使用必應進行搜索。搜索在桌面版的必應上完成，並且關閉了「安全搜索」功能。AntiToxin 是在去年成立的，其使命是開發保護網絡安全的技術，以此對抗霸凌、虐待和其他形式的不當行為。(信息披露：AntiToxin 的員工中包括羅伊·卡西，他曾在 2007 年至 2012 年間為 TechCrunch 撰稿。)
AntiToxin 執行長佐哈爾·列夫科維茨（Zohar Levkovitz）告訴筆者：「作為家長，我們應該期待負責任的科技公司加倍乃至三倍地投入，以確保他們沒有為已經危險重重的兒童網絡環境火上澆油。而作為 AntiToxin Technologies 的執行長，我想明確一點，我們將隨時待命，為任何將此列為優先事項的公司提供幫助。」你可以在 這裡 找到 AntiToxin 首次發表的完整報告，我們也貼在了下面：
TechCrunch 向微軟提交了有問題的搜索關鍵詞的完整列表，並詢問了他們為什麼會發生這種事情。微軟負責必應搜索和人工智慧產品的副總裁喬迪·裡伯斯（Jordi Ribas）向 TechCrunch 提供了如下聲明：「顯然，根據我們的標準和政策，這些結果是不可接受的，我們非常感謝 TechCrunch 讓我們知道了問題的存在。我們立刻採取行動移除了非法內容，但我們還希望避免將來出現任何其他類似的違規行為。我們專注於從這件事中汲取教訓，以便做出必要的改進。」
微軟聲稱，他們已經指派一支工程技術團隊解決 TechCrunch 披露的問題，現在他們正著手封禁任何類似的搜索關鍵詞、存在問題的相關搜索建議和類似圖片。然而，AntiToxin 發現，儘管報告中提到的一些關鍵詞搜索已經被禁止或經過了清理，但還有一些仍然會返回非法內容。
微軟告訴筆者，他們正在修改必應搜索的標記選項，以包含更加廣泛的用戶舉報類別，其中就包括「兒童性虐待」。當被問及為什麼會發生這種事情時，該公司的一位發言人向 TechCrunch 表示，「跟谷歌一樣，我們將所有內容編入了索引，而且我們盡最大努力對內容進行了篩選。我們組合使用了 PhotoDNA 技術和人工審核機制，但那並沒有讓我們每次都做到完美，我們一直致力於做得更好。」
微軟的發言人拒絕透露有多少人在從事必應搜索的人工審核，或者他們是否計劃增加人手來加強防禦。但這位發言人隨後試圖反駁這種思路的推理，稱：「我差不多明白了你的意思，你是在說我們在這裡完全搞砸了，以及我們一直都很糟糕，但在歷史的背景下，事實顯然不是這樣。」事實是，微軟完全搞砸了，而這樣一個事實——該公司開創了可以檢測非法圖片的 PhotoDNA 技術，並且被其他科技公司採納——並不能改變這一點。
必應搜索的兒童色情問題再次展示，科技公司拒絕將其取得的利潤進行再投資，以保障他們用戶以及整個社會的安全。科技公司不負責任地優先考慮增長和效率，由此造成種種弊端，公眾不應該再容忍這些事。技術解決方案已被證明不足以提供安全保障，我們需要更多的人類哨兵。這些公司現在必須加大投入保護我們免受他們釋放的危險，否則我們付出的代價就是世界失去安全。