編者按：在剛剛過去的一年，社交媒體巨頭 Facebook 可以說是經(jīng)歷了最大的挑戰(zhàn)，遭到了“幫助假消息傳播、操縱美國大選以及加速極端主義”等多項(xiàng)指控。為此，這家社交媒體巨頭組建了一個(gè)專家團(tuán)隊(duì)來應(yīng)對濫用行為，保護(hù)公司聲譽(yù)，力求在問題出現(xiàn)之前發(fā)現(xiàn)問題。對此，安全專家們又有何看法呢？

科技公司一直津津樂道于自己的產(chǎn)品將會(huì)帶來怎樣積極的巨變，像 Facebook 以“賦予人創(chuàng)建社區(qū)的權(quán)力，讓世界聯(lián)系更加緊密”為使命，Google 則是“將全世界的信息組織起來，使其能被普遍獲得和使用”，微軟則希望“賦予地球每一人、每一組織做出更大成就的權(quán)力”。即便是 Snapchat 這家以“Snap Inc 是一家相機(jī)公司”謙遜的形象作為自我介紹語的公司，也不禁自夸道：“我們的產(chǎn)品能夠讓人們更好地表達(dá)自我、活在當(dāng)下、進(jìn)一步了解這個(gè)世界并且共同享受這其中的樂趣，從而推動(dòng)人類進(jìn)步。”

通過以上這些說法，足看見其中的雄心壯志，而這也是科技領(lǐng)域大型企業(yè)的常態(tài)。但是，卻很少見這些企業(yè)投入時(shí)間或精力去應(yīng)對這些世界一流的新技術(shù)所產(chǎn)生的預(yù)料之外的后果。

當(dāng)然，這其中也有例外。Google 在 2014 年收購總部位于倫敦的人工智能公司 DeepMind 之時(shí)，DeepMind 創(chuàng)始人的要求之一就是由 Google 成立一個(gè)道德委員會(huì)，以確保未來對該技術(shù)的任何使用方式與途徑都會(huì)受到嚴(yán)格道德準(zhǔn)則的約束。一年后，埃隆·馬斯克帶頭成立了人工智能研究小組 OpenAI，以“通過最有可能令整個(gè)人類受益的方式推進(jìn)數(shù)字智能技術(shù)的發(fā)展，而不受財(cái)務(wù)回報(bào)的約束”為目標(biāo)。

但有些時(shí)候，一些本意并非是想改變世界性事件發(fā)展進(jìn)程的產(chǎn)品和功能，卻可能引發(fā)巨大的社會(huì)動(dòng)蕩。2017 年，F(xiàn)acebook 決定測試一下將新聞報(bào)道放在一個(gè)單獨(dú)的部分，與 News Feed 分開是否會(huì)增加用戶參與度。在這過程中，F(xiàn)acebook 可能對一些包括Cambodia等在內(nèi)的發(fā)展中民主國家的獨(dú)立生態(tài)媒體系統(tǒng)造成了嚴(yán)重的損害。

但要是拿這與 Facebook 所受到的“可能無意中造成了緬甸羅興亞少數(shù)民族種族清洗”的指責(zé)相比可以說就不算什么了。在 Facebook 平臺(tái)上，我們可以看到各種“假新聞”以及極度擁護(hù)各自所屬黨派的各種社區(qū)，這種情況下，如果該國的社會(huì)狀況不夠穩(wěn)定，無法抵御這種言論和分歧，那就會(huì)爆發(fā)暴力事件。

現(xiàn)在，F(xiàn)acebook 正努力避免此類事件的再次發(fā)生，并且希望能夠通過創(chuàng)建“調(diào)查行動(dòng)團(tuán)隊(duì)”（IOT）從公司合作商--Cambridge Analytica 用戶隱私丑聞一事的負(fù)面新聞報(bào)道中走出來，旨在防患濫用行為于發(fā)生之前。Facebook 商業(yè)誠信總監(jiān) LyndaTalgo 兩周前在接受 Buzzfeed 采訪時(shí)表示，由廣告人員、研究人員以及之前從事過偵查工作的人員組成的一個(gè)團(tuán)隊(duì)正與公司進(jìn)行合作“向前看，關(guān)注并找出即將發(fā)生怎樣的事情”。

但其實(shí)，即便你不是 Facebook 的內(nèi)部工作人員，即便你并非身處其位于門洛帕克的辦公區(qū)內(nèi)，你也能感受到 Facebook 在不久的將來必須要打一場硬仗。因此，我也組建了自己的“調(diào)查運(yùn)營團(tuán)隊(duì)”，團(tuán)隊(duì)成員都是那些一直在遠(yuǎn)遠(yuǎn)觀察這個(gè)行業(yè)的人，他們也就硅谷當(dāng)前所出現(xiàn)的問題給出了自己的警示意見。

來自比利時(shí)的道德黑客、安全研究員 Inti De Ceukelaire 發(fā)現(xiàn)了 Facebook 存在的多個(gè)疏忽和漏洞。上個(gè)月，他曾披露一款名為 NameTests 的第三方測驗(yàn)應(yīng)用令 1.2 億 Facebook 用戶面臨數(shù)據(jù)泄露風(fēng)險(xiǎn)，只要用戶注冊 Nametests.com 網(wǎng)站中的任何一款智力競賽應(yīng)用，他們在 Facebook上 的個(gè)人數(shù)據(jù)就會(huì)被泄露。他表示這樣的問題在 Facebook 網(wǎng)站上其實(shí)很常見，雖然 Facebook 急于打擊各種不良及濫用行為，但在合作伙伴選擇方面似乎太過漫不經(jīng)心。

Ceukelaire 說道：“整個(gè)問題的解決大約用了兩個(gè)月的時(shí)間，而在問題最終解決之前，F(xiàn)acebook 甚至從未阻止過 NameTests 這一應(yīng)用，哪怕只是短期的停用也沒有。但是，當(dāng)我創(chuàng)建了一款類似的工具之后，幾個(gè)小時(shí)之內(nèi)就被停用了，之后與我相關(guān)的所有域名都被 Facebook 攔截了?！彼a(bǔ)充道，同樣，這些合作伙伴“也擁有特殊的數(shù)據(jù)訪問權(quán)限，能夠幫助 Facebook 形成更多的壟斷?！?/p>

Forrester 的首席分析師 Thomas Husson 認(rèn)為這其中并不僅僅存在安全問題。他指出，雖然整個(gè)行業(yè)對于人工智能問題表現(xiàn)出了足夠的關(guān)注度，但它仍然存在風(fēng)險(xiǎn)?！叭斯ぶ悄艿氖褂煤妥詣?dòng)化流程的能力將會(huì)引發(fā)更多的道德問題，像 Facebook 或 Google 等在內(nèi)的數(shù)字平臺(tái)必須確保自己能夠規(guī)避有害的偏見和歧視行為的發(fā)生。包括面部識別和生物特征識別等在內(nèi)的人工智能技術(shù)將進(jìn)一步增加消費(fèi)者對于隱私問題的擔(dān)憂。”

來自非營利機(jī)構(gòu) Privacy International 的數(shù)據(jù)項(xiàng)目負(fù)責(zé)人 Frederike Kaltheuner 也同樣表達(dá)了對于面部識別技術(shù)的擔(dān)憂情緒，他提醒道，即便這些公司對于技術(shù)所帶來的負(fù)面結(jié)果有所擔(dān)憂，他們也往往會(huì)不當(dāng)回事?！跋到y(tǒng)能夠反映出數(shù)據(jù)和社會(huì)中所存在的偏見，無處不在的面部識別技術(shù)將導(dǎo)致大規(guī)模的街道級別監(jiān)控行為，而這對于那些本來就要面對各種日常歧視的人來說會(huì)造成很大的傷害。對于在閉路電視攝像機(jī)內(nèi)部署大規(guī)模面部識別系統(tǒng)的行為，社會(huì)各群體必須繼續(xù)采取行動(dòng)，與之抗?fàn)?。?/p>

Kaltheuner 認(rèn)為，這個(gè)由于太過麻煩所以大家都不愿去解決的問題其實(shí)出在該行業(yè)的商業(yè)模式身上?！皢栴}就在于數(shù)據(jù)利用本身成為了一種商業(yè)模式。要注意，我所說的并不是產(chǎn)品和服務(wù)需要數(shù)據(jù)來發(fā)揮作用這一事實(shí)，問題在于他們打著產(chǎn)品和服務(wù)的名義來進(jìn)行數(shù)據(jù)挖掘?！?/p>

然而，該行業(yè)面臨的最大的一個(gè)風(fēng)險(xiǎn)可能就是讓 Facebook 當(dāng)下不得不進(jìn)行反省的那個(gè)問題：信任。De Ceukelaire 指出：“如果一家企業(yè)未能保護(hù)數(shù)百萬數(shù)據(jù)的數(shù)據(jù)隱私，那你就無法信任他們的公關(guān)團(tuán)隊(duì)。我們現(xiàn)在正在朝著正確的方向前進(jìn)，但我們的整體步調(diào)已經(jīng)落后了。我們需要更快地行動(dòng)起來、采取更透明的保護(hù)措施、省去那些冠冕堂皇的廢話。這不僅僅適用于 Facebook，也適用于該行業(yè)的每一家大型科技公司?！?/p>

Forrester 首席分析師 Husson 同樣表達(dá)了這一觀點(diǎn)，只是言辭相對平和一些。他說道：“Facebook 和Google 都是連接消費(fèi)者和品牌的數(shù)字平臺(tái)，能否得到客戶的信任是決定他們未來命運(yùn)的關(guān)鍵所在。他們在這方面所面臨的挑戰(zhàn)將會(huì)變得日益嚴(yán)峻，這不僅僅是因?yàn)橄瘛锻ㄓ脭?shù)據(jù)保護(hù)條例》（GDPR）這樣更為復(fù)雜的法律條例不斷涌現(xiàn)，而且也是因?yàn)橄M(fèi)者會(huì)越來越多地要求品牌依照價(jià)值觀來行事?！?/p>

對于 Facebook 和 Google 來說，信任是一個(gè)尤其重要的資源，因?yàn)樗麄兣c真實(shí)客戶—占其收入絕大部分的廣告客戶之間的關(guān)系同樣缺乏信任。Facebook 不得不一再由于報(bào)告給廣告商的指標(biāo)存在過度夸大的問題而一再道歉，Google 旗下的 YouTube 也由于品牌安全問題（例如，臭名昭著的將客戶付費(fèi)廣告投放到極端組織相關(guān)內(nèi)容頻道之中）受到廣告商的攻擊。Husson 指出：“毫無疑問，亞馬遜在這方面做的比 Google 和 Facebook 都要好。”

成立一個(gè)調(diào)查團(tuán)隊(duì)顯然是贏回信任的一個(gè)好方法，但也許是會(huì)引起別人猜疑的一個(gè)好方法。隱私維權(quán)者Aral Balkan 就表示根本不相信 Facebook 目前正在推行的“損失控制和公關(guān)行動(dòng)”。他說道：“這就像是一個(gè)人類養(yǎng)殖場，之前曾因?qū)Υ蟮姆绞蕉艿焦_羞辱，現(xiàn)在正通過內(nèi)部審計(jì)方式來規(guī)避未來的公關(guān)災(zāi)難性事件?！碑?dāng)被問到如果他發(fā)現(xiàn)自己也身處類似的團(tuán)隊(duì)會(huì)怎么做時(shí)，Balkan 表示：“首先我絕對不會(huì)讓自己身處這樣的一個(gè)團(tuán)隊(duì)，因?yàn)槲腋緹o意幫助這些監(jiān)控資本家去改善他們的公共關(guān)系。我只是想確保他們的濫用行為得到有效的監(jiān)管，并幫助他們找到符合道德要求的替代解決方案?！?/p>

對于 IOT 團(tuán)隊(duì)，我們真正的衡量標(biāo)準(zhǔn)并不在于他們能否發(fā)現(xiàn)問題，而是在于他們在直接耕地可能是最有利可圖的行動(dòng)方案這一前提下，能否依然改變公司計(jì)劃來避開那些雷區(qū)。如果 IOT 能夠很好地完成他們的工作，那以后我們應(yīng)該就不會(huì)再聽到這個(gè)名字了。對于 Facebook 來說，這可能是最好的結(jié)果。

原文鏈接：https://www.theguardian.com/technology/2018/jul/07/facebook-notes-from-a-scandal-investigative-operations-team-iot-rohingya-myanmar-cambodia-press

編譯組出品。編輯：郝鵬程