這一切都始于一個(gè)看似有趣的人格測(cè)驗(yàn)，名為“thisisyourdigitallife”，由劍橋大學(xué)的一位名叫Aleksandr Kogan的研究人員編寫。在Kogan向政治咨詢公司Cambridge Analytica傳遞了約8700萬(wàn)Facebook的個(gè)人信息后，它已經(jīng)演變成Facebook歷史上最突出的數(shù)據(jù)丑聞。

科甘星期天在60分鐘的采訪中道歉，說(shuō)他不知道他的行為會(huì)帶來(lái)什么影響。但是，許多其他學(xué)者表示，他們清楚地看到了這種濫用的可能性，如果Facebook花更多時(shí)間咨詢隱私專家和學(xué)者，就可以避免這種情況。

其中一位學(xué)者是馬里蘭大學(xué)信息研究學(xué)院的教授詹妮弗·戈?duì)栘惪耍嗄陙?lái)一直在討論Facebook數(shù)據(jù)的隱私風(fēng)險(xiǎn)。在2013年的TED演講中，她警告說(shuō)，算法可以從少數(shù)Facebook“喜歡”中推斷出一系列其他特征，并且需要對(duì)隱私政策和法律進(jìn)行改革，以保護(hù)當(dāng)今數(shù)字時(shí)代的用戶。今天，她感覺像卡桑德拉，除了人們開始更仔細(xì)地聽她說(shuō)。

Golbeck對(duì)社交媒體巨頭提出了很多建議，她希望公司能夠更頻繁地轉(zhuǎn)向研究人員和隱私專家，就如何更好地保護(hù)用戶提供建議。

EdSurge上周與Golbeck坐下來(lái)作為我們EdSurge Live視頻討論系列的一部分。她預(yù)測(cè)，在公司幾年前改變其政策之前，數(shù)百個(gè)(如果不是數(shù)千個(gè))教育應(yīng)用可能會(huì)從Facebook用戶那里獲取大量數(shù)據(jù)。為了清晰起見，對(duì)話已經(jīng)過(guò)編輯和濃縮。

您可以在下面收聽完整版本，也可以收聽您最喜愛的播客應(yīng)用(如iTunes或Stitcher)?；蛘哂^看視頻版本。

EdSurge：你是如何研究數(shù)據(jù)隱私和社交媒體的?

Golbeck：我做研究，我構(gòu)建了這些算法來(lái)獲取你的社交媒體數(shù)據(jù)并找出關(guān)于你的事情，這就是Cambridge Analytica正在做的事情。他們引用了我的研究論文，這些論文讓我感到厭煩。

但是當(dāng)我做這項(xiàng)工作時(shí)，可能是在2011年或2012年，我們發(fā)現(xiàn)的是我們想要了解的任何事情(我們可以)。

你的意思是只看到他們?cè)贔acebook上“喜歡”的東西，并從中猜出其他因素?

在你提到的TED演講中，我引用了這項(xiàng)研究，這項(xiàng)研究實(shí)際上是在劍橋分析室空間重疊的一些人在劍橋完成的。使用Facebook“喜歡”，他們可以發(fā)現(xiàn)個(gè)性特征，政治偏好，人口統(tǒng)計(jì)，如種族，宗教，性別，性取向; 和行為的事情，比如你是喝酒，吸煙，還是吸毒。所有這一切都來(lái)自“喜歡”。

但它不僅僅是“喜歡”。我們可以通過(guò)分析你所寫文本的結(jié)構(gòu)來(lái)找到這些東西。所以不是內(nèi)容，而是你使用的動(dòng)詞和副詞，你的句子是什么樣的?有一項(xiàng)很棒的研究，使用你的Instagram個(gè)人資料圖片來(lái)診斷你是否有臨床抑郁癥?；旧衔覀儼l(fā)現(xiàn)的任何數(shù)據(jù)源都有足夠的信號(hào)，我們可以識(shí)別這些屬性。

這是超級(jí)強(qiáng)大的，因?yàn)槟銦o(wú)法躲避他們。它不像這個(gè)邏輯連接。這是非常統(tǒng)計(jì)的。

你在TED演講中提到你可以通過(guò)他們“喜歡”卷曲薯?xiàng)l來(lái)判斷一個(gè)人的智力水平。這是如何運(yùn)作的?

在我提到的那些他們?cè)诳?ldquo;喜歡”的劍橋論文中，他們列出了四個(gè)“喜歡”，它們是最強(qiáng)大的智力預(yù)測(cè)者。他們“喜歡”科學(xué)，雷暴，科爾伯特報(bào)告和卷曲薯?xiàng)l的頁(yè)面。是的，你會(huì)說(shuō)，“為什么卷曲薯?xiàng)l?” 答案是我們不知道。但更重要的是，當(dāng)我們喜歡Facebook上的內(nèi)容時(shí)，不僅僅是關(guān)于我們這些固有的個(gè)人事物，它還是一個(gè)社交過(guò)程。

即使你喜歡卷曲的薯?xiàng)l，你也可能不會(huì)說(shuō)，“哦，我們?nèi)フ乙粋€(gè)卷曲的薯?xiàng)l，這樣我就可以'喜歡'它。” 你遇到它是因?yàn)榕笥?ldquo;喜歡”它，或者你偶然發(fā)現(xiàn)它，然后你就這樣做了。而這些算法可以汲取這些社交互動(dòng)的遺留物。他們實(shí)際上并沒有看到你的網(wǎng)絡(luò)互動(dòng)，但是他們看到了你所做的事情，并且允許他們做出這些看起來(lái)完全不合邏輯的推論。但基本上他們正在拉起很少的社交互動(dòng)痕跡。你無(wú)法掩飾這一點(diǎn)。

我敢肯定，有數(shù)百家公司，如果不是成千上萬(wàn)的應(yīng)用程序，也做了同樣的事情。

-Jennifer Golbeck

這讓我非常擔(dān)心。因?yàn)楹苊黠@我覺得有很好的方法可以使用這些算法，這就是我制作它們的原因，但顯然我們終于看到人們也會(huì)以非常糟糕的方式使用它們。所以我在2013年10月做過(guò)TED演講，我覺得我有點(diǎn)尖叫，不一定是因?yàn)楹芏嗳嗽谶^(guò)去的四年里聽過(guò)我的話。但是上個(gè)月對(duì)我來(lái)說(shuō)真的是卡桑德拉的時(shí)刻 - 我一直在說(shuō)這將會(huì)發(fā)生，現(xiàn)在終于讓人們相信我了。

是的，正如全世界正在觀看馬克·扎克伯格在國(guó)會(huì)前作證的那樣，他們向他提出的問(wèn)題是“Facebook應(yīng)該采取什么措施來(lái)更好地保護(hù)用戶?” 但聽起來(lái)Facebook上的人知道這是可能的，因?yàn)樗麄兛赡軙?huì)在此事件曝光之前閱讀您的研究報(bào)告以及其他類似的研究報(bào)告。

哦，絕對(duì)。我正在構(gòu)建Facebook應(yīng)用程序的同時(shí)，這些東西正在進(jìn)行中，劍橋Analytica正在抓取我們?cè)谛侣勚锌吹降乃袛?shù)據(jù)，這被稱為數(shù)據(jù)泄露。我正在構(gòu)建Facebook應(yīng)用程序以執(zhí)行相同的操作，但需要大學(xué)道德批準(zhǔn)，以及關(guān)于如何使用數(shù)據(jù)的嚴(yán)格規(guī)則。Facebook有劍橋Analytica違反的規(guī)則。

所以他們說(shuō)，如果你是學(xué)者，你收集這些數(shù)據(jù)，就不允許你把它交給其他人。我遵循這些規(guī)則。但他們不知道我是否遵循這些規(guī)則。我記得當(dāng)時(shí)的想法，“抓住這么大量的數(shù)據(jù)會(huì)非常容易，F(xiàn)acebook永遠(yuǎn)不會(huì)知道我保留了它的副本，我可以隨心所欲地做任何事情。”

所以，我們現(xiàn)在聽說(shuō)劍橋Analytica，他們肯定打破了一些規(guī)則，但我確信有數(shù)百家公司，如果不是數(shù)千個(gè)應(yīng)用程序，也做了同樣的事情。Facebook的聰明人顯然已經(jīng)考慮過(guò)這一點(diǎn)。每當(dāng)有事情發(fā)生時(shí)，他們就會(huì)改變規(guī)則并修復(fù)規(guī)則，這對(duì)他們修正規(guī)則很有好處，但他們并沒有像他們需要考慮人們可能濫用的方式那樣積極主動(dòng)我們要交給他們的數(shù)據(jù)。而且我認(rèn)為這對(duì)他們來(lái)說(shuō)是不負(fù)責(zé)任的。他們并不對(duì)人們違反規(guī)則承擔(dān)全部責(zé)任，但如果你是所有這些個(gè)人信息的管家，你必須考慮到這一點(diǎn)。

但由于你是在研究使用Facebook數(shù)據(jù)，我猜你可能不會(huì)主張他們削減你和其他研究人員。Facebook如何保護(hù)用戶，同時(shí)還允許真正的研究發(fā)生?

是的，這是一個(gè)非常重要的觀點(diǎn)，因?yàn)槲覀儸F(xiàn)在處于真正的風(fēng)險(xiǎn)之中：他們可能會(huì)切斷這種訪問(wèn)。你知道，研究人員不是問(wèn)題所在。所以Cambridge Analytica的這個(gè)人違反了規(guī)則，但一般來(lái)說(shuō)我們不是那些收集所有這些大量數(shù)據(jù)的人，而且我們也沒有從他們那里賺錢。我們所要做的就是科學(xué)。Facebook，Twitter，他們?cè)趦?nèi)部擁有自己的研究團(tuán)隊(duì)正在做這件事，但如果你只是在內(nèi)部進(jìn)行研究，那么你就不會(huì)對(duì)它進(jìn)行批評(píng)。

因此，確保學(xué)者擁有這些數(shù)據(jù)存在一定的風(fēng)險(xiǎn)，但我們都受到大學(xué)內(nèi)非常嚴(yán)格的道德規(guī)范的約束。我需要一個(gè)董事會(huì)來(lái)批準(zhǔn)我對(duì)個(gè)人數(shù)據(jù)所做的每一個(gè)實(shí)驗(yàn)。它有一個(gè)我銷毀它的時(shí)間表。它需要我說(shuō)我將如何加密它，它將要使用什么計(jì)算機(jī)，誰(shuí)將擁有它，辦公室將被鎖定在計(jì)算機(jī)所在的位置?我的意思是，它真的很詳細(xì)地保護(hù)了這些數(shù)據(jù)。

我的意思是，有一個(gè)非常強(qiáng)大的基礎(chǔ)設(shè)施，它來(lái)自像Tuskegee實(shí)驗(yàn)這樣的非常糟糕的事情，對(duì)嗎?未經(jīng)同意的醫(yī)學(xué)實(shí)驗(yàn)。這是我們道德規(guī)則的基礎(chǔ)。

我們不會(huì)擔(dān)心，而是隨機(jī)公司正在構(gòu)建您要提供數(shù)據(jù)的應(yīng)用程序，然后可以將其出售并匯總并執(zhí)行所有其他操作。因此，削減研究人員有點(diǎn)像最糟糕的一步，因?yàn)樗麄儠?huì)找出可以使用的不良方法，以及可以使用的不僅僅是賺錢的好方法公司?

我們一直在努力弄清楚有多少教育應(yīng)用可能已經(jīng)完成了你和其他人用幾年前Facebook允許的數(shù)據(jù)所做的事情，這也讓Cambridge Analytica能夠抓住數(shù)據(jù)。你認(rèn)為那里有教育應(yīng)用可能也在做一些嗎?

我不知道有什么特別的，但我不會(huì)感到驚訝。關(guān)注的事情并非如此，如果您安裝了我的應(yīng)用程序，我可以獲取您的數(shù)據(jù)。你知道那里發(fā)生了什么。但問(wèn)題是，如果您安裝了我的應(yīng)用程序，我可以獲取您的所有數(shù)據(jù)和所有朋友的數(shù)據(jù)。而且我曾向我的學(xué)生證明這一點(diǎn)，“嘿，你們，你們要小心這個(gè)。” 但它很容易做到。我的意思是，它實(shí)際上是一行代碼，你可以抓住所有這些。

我不會(huì)驚訝地發(fā)現(xiàn)一些教育應(yīng)用程序正在抓取那些朋友數(shù)據(jù)并使用它，可能不是以超級(jí)復(fù)雜的方式，而是用它來(lái)做一些事情來(lái)個(gè)性化他們已知用戶的體驗(yàn)。

但是，當(dāng)然，這意味著他們將從許多從未同意他們擁有它的人那里獲取數(shù)據(jù)。因此，希望所有這些應(yīng)用程序都將開始回溯他們的數(shù)據(jù)，并弄清楚他們是如何得到它并清理他們真正不應(yīng)該擁有的一些東西。

在你理想的世界里，推薦Facebook做什么?

哦，我有很多Facebook的待辦事項(xiàng)。讓我給你一個(gè)首先想到的前三名：

一個(gè)是我認(rèn)為帖子應(yīng)該能夠有一個(gè)到期日期。我實(shí)際上認(rèn)為短暫，如果這是一個(gè)詞，對(duì)于社交媒體來(lái)說(shuō)是超級(jí)批判的。而且我們看到很多人轉(zhuǎn)向使用像Snapchat這樣的東西進(jìn)行大量的互動(dòng)，而這些東西就會(huì)消失。我實(shí)際上在我自己的社交媒體使用中這樣做。在Facebook上我使用了一個(gè)名為Facebook時(shí)間線清潔工具。每運(yùn)行兩周，我刪除超過(guò)兩周的任何東西，所以那里的數(shù)據(jù)不多。這些算法都不適用于我。

如果你看看你六個(gè)月前寫的社交媒體帖子，他們通常會(huì)感到羞愧，特別是在Facebook上。我想讓人們看到Facebook有關(guān)他們的數(shù)據(jù)，并堅(jiān)持將其刪除，這是歐洲人將在GDPR中獲得的東西。我認(rèn)為這非常重要。

然后第三件事是，我真的希望看到[Facebook]在這些隱私問(wèn)題上有一個(gè)受技術(shù)教育的顧問(wèn)委員會(huì)。要真正推動(dòng)他們，就像“這是一個(gè)壞主意，我不關(guān)心它如何影響你的底線，我關(guān)心它如何影響你的用戶和他們的隱私，你需要在這里做得更好。”

因?yàn)樗麄円恢痹谡f(shuō)他們真的沒有考慮過(guò)怎么會(huì)被誤用?這怎么會(huì)被人們看到?如果他們內(nèi)部沒有充分考慮到這一點(diǎn)，那么聚集一群像我一樣的人 - 來(lái)自其他領(lǐng)域的人 - 進(jìn)來(lái)并真正進(jìn)行這些對(duì)話，并與他們的開發(fā)人員討論它，以便他們不能再擁有聲稱喜歡，“天哪，我們不知道這會(huì)讓人不安。”或者，“我們不知道這會(huì)不好。”

我很樂(lè)意自愿成為那個(gè)人。