【獵云網(wǎng)（微信號(hào)：）】7月18日?qǐng)?bào)道 （編譯：Henry）

當(dāng)您在手機(jī)上注冊(cè)Facebook時(shí)，這款軟件所做的遠(yuǎn)不僅是向您提供來自您的朋友和家人的最新動(dòng)態(tài)和照片。在后臺(tái)，它正在利用手機(jī)的陀螺儀來探測(cè)您細(xì)微的動(dòng)作，甚至包括您的呼吸。它會(huì)記錄您點(diǎn)擊屏幕的速度，甚至可以探測(cè)到您手機(jī)的握持角度。

這聽起來的確讓人毛骨悚然。其實(shí)這些只是Facebook驗(yàn)證注冊(cè)者是人類而不是每天試圖入侵社交網(wǎng)絡(luò)的數(shù)千萬機(jī)器人的一些方式。

Facebook的這些做法凸顯了科技公司與機(jī)器人入侵者之間愈發(fā)激烈的斗爭(zhēng)，這些機(jī)器人入侵者可能導(dǎo)致政治混亂并損害公司的公眾信任。 Facebook并不是唯一的受害者：推特已在周三開始刪除數(shù)百萬個(gè)屏蔽帳戶，谷歌也正試圖在YouTube上消除惡意釣魚網(wǎng)站。

他們相信，人工智能將會(huì)是他們公司的救贖之路。 Facebook首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）多次指出人工智能是他在國(guó)會(huì)和公司F8開發(fā)者大會(huì)上作證時(shí)對(duì)其社交網(wǎng)絡(luò)缺陷的解決方案。 谷歌希望成為人工智能主導(dǎo)公司，而推特也希望利用這項(xiàng)技術(shù)來消滅釣魚網(wǎng)站。

“它已經(jīng)成為日常生活中的一個(gè)基本組成部分，”技術(shù)政策類非營(yíng)利組織Open MIC的執(zhí)行董事Michael Connor說。 “人工智能已經(jīng)改變了我們聽音樂的方式，改變了我們處理醫(yī)療問題的方法，甚至改變了我們的駕車方式?！?/p>

AI已經(jīng)被視為可以解決關(guān)于互聯(lián)網(wǎng)所有麻煩問題的萬靈藥。畢竟，沒有任何一個(gè)人或一個(gè)團(tuán)隊(duì)可以處理來自數(shù)十億用戶的大量數(shù)據(jù)。但它是如何做到的？ CNET將深入了解Google，推特和Facebook如何使用AI來控制如此大規(guī)模的濫用行為。

人工智能最適合用來處理大量數(shù)據(jù) ——Facebook，谷歌和推特在這方面沒有任何不足。例如，如果您正在訓(xùn)練機(jī)器人查找假新聞，那么您將需要會(huì)收集大量假新聞帖子，并提供算法來查找類似的帖子。

這臺(tái)機(jī)器的學(xué)習(xí)過程其實(shí)就像教新生嬰兒對(duì)與錯(cuò)的區(qū)別的過程，Sift Science的信托和安全建筑師Kevin Lee說。

但是過于隱蔽的濫用行為很難被算法判斷出來，或者有時(shí)候，算法會(huì)將用戶的正常行為判斷為濫用行為，所以人工智能有時(shí)也會(huì)出錯(cuò)。當(dāng)審核過程透明度很低時(shí)，人們會(huì)對(duì)此持懷疑態(tài)度。

但是對(duì)付機(jī)器學(xué)習(xí)造成的失誤，我們也有一套處理方法。

Facebook

網(wǎng)絡(luò)犯罪分子越來越精明。 當(dāng)他們?cè)贔acebook上創(chuàng)建賬戶時(shí)，他們使用的機(jī)器人就像蜂巢里的蜜蜂一樣多。這些機(jī)器人會(huì)使用多種技巧來入侵龐大的社交網(wǎng)絡(luò)。他們會(huì)使用虛假的IP地址，放慢處理速度使之與人類操作速度相近，并使用數(shù)字掩碼入侵注冊(cè)。

但幸運(yùn)的是他們?nèi)匀粺o法偽造人類用戶進(jìn)行注冊(cè)。

龐大的社交網(wǎng)絡(luò)一直依賴外部AI資源以及自己的團(tuán)隊(duì)來幫助它拒入侵機(jī)器人于門外。 其中一個(gè)AI外部資源來自以色列創(chuàng)業(yè)公司Unbotify，兩位Unbotify的知情人員證實(shí)，該公司正在與Facebook就檢測(cè)機(jī)器人項(xiàng)目進(jìn)行合作。

初創(chuàng)公司產(chǎn)品和運(yùn)營(yíng)副總裁Eran Magril表示，Unbotify是依據(jù)設(shè)備上的行為數(shù)據(jù)而運(yùn)行的，例如您注冊(cè)帳戶時(shí)手機(jī)的移動(dòng)速度。該算法之所以能夠識(shí)別出這些特點(diǎn)，是因?yàn)檫@是根據(jù)成千上萬的工作人員不斷點(diǎn)擊搖擺手機(jī)測(cè)試而設(shè)計(jì)出來的。機(jī)器人雖然可以偽造IP地址，但是它們不能偽造一個(gè)真實(shí)的人類用戶與設(shè)備進(jìn)行的物理交互。

Magril拒絕透露Unbotify與Facebook的關(guān)系，只表示該公司與主要的社交網(wǎng)絡(luò)正在進(jìn)行合作。而Facebook也拒絕對(duì)Unbotify發(fā)表任何評(píng)論。

Facebook試圖通過將其內(nèi)容審核團(tuán)隊(duì)拓展至20,000名員工來抵御機(jī)器人這一禍害。 盡管如此，機(jī)器人用戶還是巨大的：5月份，F(xiàn)acebook宣布在2018年的前三個(gè)月刪掉了5.83億個(gè)假賬戶。此數(shù)據(jù)闡述了人類在人工智能中只能扮演配角的原因。

“每天都有數(shù)以萬計(jì)的賬戶被刪除，” Lee說。 “絕大多數(shù)刪除工作是由AI而不是人類完成的，真是謝天謝地，我們有AI這么方便的工具。”

Unbotify能夠通過在客戶應(yīng)用程序中寫入的代碼來檢測(cè)這些類型的動(dòng)作。 Magril強(qiáng)調(diào)，該公司不收集私人信息，只收集不包括姓名和個(gè)人識(shí)別信息的行為數(shù)據(jù)。但社交網(wǎng)絡(luò)的前團(tuán)隊(duì)負(fù)責(zé)人Lee表示，利用行為數(shù)據(jù)不是Facebook阻止機(jī)器人的唯一途徑。

該公司還依靠AI根據(jù)一臺(tái)設(shè)備上的帳戶數(shù)量以及創(chuàng)建后的賬戶活動(dòng)來自動(dòng)判斷帳戶是否是機(jī)器人賬戶。他表示，如果一個(gè)賬戶注冊(cè)后，并在一分鐘內(nèi)發(fā)送超過100個(gè)朋友請(qǐng)求，那么Facebook的人工智標(biāo)記該帳戶為機(jī)器人賬戶。

它也知道一臺(tái)設(shè)備上有多少個(gè)不同的帳戶。Lee說，大部分時(shí)間，欺詐者都會(huì)在一臺(tái)設(shè)備上擁有多個(gè)僵尸賬戶。而通常情況下，正常用戶一般會(huì)在多個(gè)設(shè)備上擁有一個(gè)Facebook帳戶。

Facebook也依靠AI來阻止假新聞。此功能是將一些經(jīng)常引起算法的關(guān)鍵內(nèi)容列為問題內(nèi)容來實(shí)現(xiàn)的。

今年3月，該社交網(wǎng)絡(luò)表示，他們正在擴(kuò)大其事實(shí)核查計(jì)劃，在核查一系列的模因宣傳之后，審核內(nèi)容將包括圖像和視頻，而不是惡作劇文章。其檢查員將與法新社（Agence France-Presse）和美聯(lián)社等新聞機(jī)構(gòu)合作。

根據(jù)創(chuàng)始人Or Levi的說法，這些事實(shí)檢查正在使用AdVerif.ai的AI工具。它會(huì)查找已標(biāo)記的圖像并執(zhí)行反向圖像搜索，以查看該圖像發(fā)布的其他位置，以及該圖像顯示的內(nèi)容是否被修改過。例如，以前Facebook已經(jīng)抓住了一張NFL（美式橄欖球聯(lián)盟）運(yùn)動(dòng)員燒毀美國(guó)國(guó)旗的假圖片。 AdVerif.ai記錄了該圖像，并反向搜索它的起源，同時(shí)能夠告訴檢查員這是張被修改出來的圖片。

Levi說：“我們每天都在審核數(shù)百到數(shù)千張照片。我們到原始圖像，然后發(fā)現(xiàn)其中的大部分都能確定該圖像是被修改過的?！?/p>

Facebook News Feed產(chǎn)品專家Sara Su在周三的新聞發(fā)布會(huì)上表示，F(xiàn)acebook依靠第三方事實(shí)檢查員來幫助其篩選惡作劇內(nèi)容和虛假信息。

Su 說“當(dāng)你構(gòu)建機(jī)器學(xué)習(xí)分類器來識(shí)別某些特別虛假惡劣的內(nèi)容時(shí)，你會(huì)需要大量的訓(xùn)練數(shù)據(jù)。在這種情況下，來自我們第三方事實(shí)檢查者的評(píng)級(jí)是這些分類器真正重要的基礎(chǔ)事實(shí)來源?！?/p>

Twitter

與Facebook不同，Twitter更傾向于人類與AI一起扮演重要的角色。這是因?yàn)樗麄冋J(rèn)為在言論自由和健康對(duì)話之間必須保持微妙的平衡。

然而，騷擾是困擾推特的最大問題之一，首席執(zhí)行官Jack Dorsey對(duì)該問題的解決做出了一次又一次的承諾，但實(shí)際上仍未解決。推特上流行的釣魚行為非常猖獗，據(jù)報(bào)道，它甚至在2016年阻礙了推特與迪士尼之間的交易。

雖然推特也使用AI來阻止機(jī)器人注冊(cè)入侵，但它試圖保留開放平臺(tái)，這意味著它不能完全依賴AI來處理釣魚行為。推特的健康產(chǎn)品經(jīng)理David Gasca在接受采訪時(shí)說，雖然垃圾郵件對(duì)推特的AI來說很容易就能追蹤和刪除，但騷擾卻不同。

在采取任何行動(dòng)之前，每個(gè)問題帖子總會(huì)被用戶看到。

Gasca表示：“自動(dòng)規(guī)則在某些情況下發(fā)揮作用，但在其他情況下，會(huì)產(chǎn)生很多細(xì)微差別，特別是在推特上，各種形式的對(duì)話都有各種背景內(nèi)容?！?/p>

通常，數(shù)百萬的推特用戶可以幫助培訓(xùn)其人工智能的能力。推特公司收集有關(guān)帳戶靜音、屏蔽、報(bào)告、轉(zhuǎn)發(fā)、喜歡或回復(fù)的頻率的信息。

自動(dòng)規(guī)則在某些情況下發(fā)揮作用，但在其他情況下，會(huì)產(chǎn)生很多細(xì)微差別

例如，AI可以識(shí)別被其他50個(gè)人屏蔽的帳戶，并將其標(biāo)記提交給推特的版主以獲得更快的處理。

這意味著推特的AI檢查對(duì)每個(gè)人都不同——取決于你進(jìn)行交流的用戶以及你忽略的用戶。 AI能夠區(qū)分正面和負(fù)面的交互，并且特別有助于改進(jìn)推特的用戶體驗(yàn)。

Gasca 表示：“你屏蔽的用戶和我屏蔽的用戶肯定不同，這樣子就可以為每個(gè)用戶的閾值和容差創(chuàng)建模型?！?/p>

如果你不斷屏蔽其他用戶，推特的算法之后就會(huì)開始過濾掉之后推送中的類似內(nèi)容。這樣子你就再遇到你不喜歡的內(nèi)容了。

Gasca表示，自推特實(shí)施這一新方法以來，新互動(dòng)的屏蔽率下降了40％。

“這是一項(xiàng)龐大的人工智能項(xiàng)目，此項(xiàng)目能夠在簡(jiǎn)單的提示之后預(yù)測(cè)特定用戶是否會(huì)屏蔽某個(gè)陌生人?！奔铀箍ㄕf。

Google

人們很容易忘記，以其視頻內(nèi)容而聞名的YouTube也是一種獨(dú)創(chuàng)的社交網(wǎng)絡(luò)形式，在其評(píng)論部分釣魚內(nèi)容也同樣泛濫。 這就是為什么YouTube使用由Alphabet's Jigsaw開發(fā)的Perspective AI管理檢查工具，也同時(shí)提供給用戶使用。

Perspective旨在篩選惡意評(píng)論，以對(duì)付網(wǎng)上大量的騷擾信息。AI會(huì)自動(dòng)標(biāo)記它判定會(huì)危害對(duì)話內(nèi)容的評(píng)論，并提交給版主選擇是否要?jiǎng)h除這些評(píng)論。

Jigsaw產(chǎn)品經(jīng)理CJ Adams表示，AI需要檢查數(shù)百萬條評(píng)論并將其提供給成千上萬幫助標(biāo)記它們的人。團(tuán)隊(duì)們對(duì)每一條評(píng)論進(jìn)行判定，告訴AI該評(píng)論是垃圾信息、騷擾信息或者是淫穢內(nèi)容。

該算法從標(biāo)簽標(biāo)記中得到學(xué)習(xí)改進(jìn)，并在實(shí)際操作中進(jìn)行類似的應(yīng)用。Adams說，Perspective不會(huì)自動(dòng)刪除，而是讓人們做最后的決定。

Adams表示：“它也會(huì)犯錯(cuò)誤，所以AI不適合自主決策，但它帶來的幫助就像是把大海撈針的范圍縮小到手中一把干草這么小一樣。”

Perspective通過在合作網(wǎng)站上的評(píng)論中獲得其訓(xùn)練數(shù)據(jù)，比如紐約時(shí)報(bào)和維基百科。這與2017年的首次亮相時(shí)的能力相去甚遠(yuǎn)，當(dāng)時(shí)AI還無法區(qū)分垃圾信息和體育網(wǎng)站上的騷擾信息。之所以能夠取得這一進(jìn)展，是因?yàn)閷?duì)系統(tǒng)提出的許多意見，使其進(jìn)行了進(jìn)一步的學(xué)習(xí)改進(jìn)。Adams表示，它現(xiàn)在知道“大都會(huì)隊(duì)（一支紐約橄欖球隊(duì)）差勁”并不總是意味著有人受到攻擊。

Perspective依賴于不斷地接受培訓(xùn)學(xué)習(xí)，以并保護(hù)自己免受釣魚內(nèi)容的侵害。當(dāng)人工智能首次啟動(dòng)時(shí)，Adams說“大量的濫用行為”都來自4Chan（類似論壇的一個(gè)討論區(qū)），這些內(nèi)容一直在試圖欺騙AI算法。

“他們會(huì)輸入可怕的東西并說它沒有問題，企圖重新訓(xùn)練我們的AI并欺騙它，”他說。但是Perspective的團(tuán)隊(duì)已經(jīng)在采取行動(dòng)了，團(tuán)隊(duì)判定認(rèn)為這些評(píng)論是不符合規(guī)范的。

所以它終還是幫助了谷歌AI發(fā)展，使它能夠利用這些數(shù)據(jù)來阻止以后的釣魚內(nèi)容。

“我們得到的是這樣大量的濫用內(nèi)容，這些對(duì)于我們來說反而是很好的訓(xùn)練材料，” Adams說?！八晕覀冏詈筮€是應(yīng)該對(duì)你們4Chan表示‘感謝’。”

Machine tuning

科技公司可能對(duì)AI有很高的評(píng)價(jià)，但這并不意味著AI沒有風(fēng)險(xiǎn)。在7月4日，根據(jù)Facebook的AI算法判斷《獨(dú)立宣言》的部分內(nèi)容存在仇恨言論，而錯(cuò)誤地刪除了一個(gè)帖子。雖然這篇文章因強(qiáng)烈反對(duì)而被迅速恢復(fù)，但其他許多被誤刪帖子的人就沒有那么幸運(yùn)了。

無論對(duì)一個(gè)多么強(qiáng)大的AI來說，誤刪帖子都是一個(gè)嚴(yán)肅的挑戰(zhàn)。哪怕只有1％的出錯(cuò)概率，想想Facebook上有20億用戶，YouTube上有10億用戶，這結(jié)果是仍有數(shù)以千萬計(jì)的有害內(nèi)容或機(jī)器人賬戶在逍遙法外。

數(shù)字公民聯(lián)盟關(guān)于恐怖主義內(nèi)容和社交媒體的報(bào)告的首席研究員Eric Feinberg說：“即使AI劫持了99％，也有1％的有害內(nèi)容被人們所接觸，其后果將是來自現(xiàn)實(shí)世界的攻擊?！?/p>

他的團(tuán)隊(duì)在12月和1月發(fā)現(xiàn)了55個(gè)ISIS賬戶并向Facebook報(bào)告。Feinberg表示，F(xiàn)acebook并沒有刪除其中的24個(gè)賬戶，聲稱它并沒有違反Facebook的服務(wù)條款，即使這些賬戶是在發(fā)布支持恐怖主義的內(nèi)容。

科技公司了解這些問題，但也認(rèn)識(shí)到他們的審核工具已經(jīng)不能應(yīng)付平臺(tái)上的問題了。 一旦你接觸到了這么多用戶，濫用的可能性就會(huì)隨之上升。

在這么大的規(guī)模下，盡管會(huì)出現(xiàn)失誤，AI是處理問題的唯一方法。科技公司希望算法能夠從中進(jìn)一步學(xué)習(xí)并改進(jìn)。

“Facebook實(shí)際上無法聘請(qǐng)足夠的人來做這件事，”Lee說。他將人工智能與工業(yè)革命的轉(zhuǎn)變進(jìn)行了類比?！澳惚仨氁蕾嚈C(jī)器。并不是所有東西都是要親手完成的，雖然那也沒關(guān)系?！?/p>