2022年，埃隆·馬斯克與Twitter的收購大戲，一度成為互聯(lián)網(wǎng)行業(yè)最熱門的話題。5月14日，馬斯克曾宣布暫時(shí)擱置交易，因?yàn)樗脒M(jìn)一步了解Twitter存在的垃圾郵件和虛假賬號問題。在6月初獲得了一些數(shù)據(jù)后，馬斯克的團(tuán)隊(duì)又在6月下旬要求Twitter提供更多數(shù)據(jù)以完成對平臺內(nèi)機(jī)器人賬號情況的評估。

 

不少評論認(rèn)為這是一種壓價(jià)的手段，但馬斯克指出的問題，確實(shí)是長期縈繞在Twitter平臺的一片陰影。而這次收購也將“社交媒體機(jī)器人”（social media bot）再度引向人們的視野。

 

社交媒體bot是個(gè)常言常新的話題。自誕生以來，它的角色與功能一直在延展和演變，人們對它的態(tài)度也從一味的排斥，到將其納入正常的網(wǎng)絡(luò)賬號討論范圍中，呈現(xiàn)出復(fù)雜化趨勢。

 

那么，到底什么是社交媒體bot？本期全媒派（ID：quanmeipai）將回顧社交媒體bot的發(fā)展，討論它們的出現(xiàn)對當(dāng)下社交媒體生態(tài)產(chǎn)生了哪些影響？

 

圖片來源：視覺中國

 

撰文 | 王煥超

編輯 | 石迪

 

從“模仿游戲”到“泡沫制造機(jī)”

 

1950年，計(jì)算機(jī)科學(xué)家艾倫·圖靈發(fā)表《計(jì)算機(jī)與智能》一文，這篇人工智能領(lǐng)域的奠基之作，討論了機(jī)器的對話水平測試問題。

 

圖靈用“模仿游戲”這個(gè)詞，定義了一種測試機(jī)器“智能程度”的實(shí)驗(yàn)：由人類作為裁判，他把問題輸入計(jì)算機(jī)，并由計(jì)算機(jī)和另一個(gè)人類做出回答，而裁判必須確定哪一個(gè)回答是人類的。這就是著名的圖靈測試。

 

自圖靈測試提出以來，能夠模仿人類行為就成為計(jì)算機(jī)程序開發(fā)的關(guān)鍵目標(biāo)。在這樣的目標(biāo)驅(qū)動(dòng)下，最早一批聊天機(jī)器人被制造出來，它們依托于數(shù)據(jù)庫，并基于文本或語音與人類進(jìn)行對話。

 

20世紀(jì)60年代被推出的ELIZA，是世界上最早的聊天機(jī)器人，它使用簡單的基于規(guī)則的系統(tǒng)，使用數(shù)據(jù)庫中的預(yù)定義語句，能夠根據(jù)人類所說的話來創(chuàng)建回答。

 

聊天機(jī)器人是社交媒體機(jī)器人的原型，前者為后者的出現(xiàn)探索了相對成熟的技術(shù)基礎(chǔ)和運(yùn)作原理。因此，隨著21世紀(jì)社交媒體廣泛興起，社交媒體機(jī)器人（下文統(tǒng)一稱“社交媒體bot”）馬上開始現(xiàn)身并發(fā)揮作用。

 

從定義來說，社交媒體bot是指參與社交媒體互動(dòng)的自動(dòng)化程序，這些程序的行為部分自主或完全自主，通常會模仿正常用戶的行為方式。

 

美國網(wǎng)絡(luò)和基礎(chǔ)設(shè)施分析辦公室（OCIA）對社交媒體bot的定義是：“體量不同的程序，在功能、性能和設(shè)計(jì)等方面存在差異；通常應(yīng)用于社交媒體平臺，在模擬人類行為的同時(shí)執(zhí)行各類有用或惡意的任務(wù)。這些程序使用人工智能、大數(shù)據(jù)分析和其他程序或數(shù)據(jù)庫，來模仿合法用戶發(fā)布內(nèi)容。”[1]

 

對于社交媒體bot，學(xué)術(shù)領(lǐng)域很早就有所關(guān)注。比如Yazan Boshmaf等學(xué)者在2011年的研究，是最早闡釋社交媒體bot的學(xué)術(shù)論文之一。

 

研究認(rèn)為，社交媒體bot有這些特征：可以模仿人類行為，類似于聊天機(jī)器人；以“機(jī)器人網(wǎng)”的形式分組出現(xiàn)；背后由人類驅(qū)動(dòng)、指揮；能夠點(diǎn)贊或發(fā)送好友請求，或者通過轉(zhuǎn)發(fā)現(xiàn)有內(nèi)容，或在互聯(lián)網(wǎng)上抓取預(yù)定義關(guān)鍵詞并生成內(nèi)容，進(jìn)而在社交媒體上發(fā)布。[2]

 

除了關(guān)注社交媒體bot及其影響，還有一系列相關(guān)研究，關(guān)注從技術(shù)層面來加強(qiáng)對社交媒體bot賬號的識別。

 

而從社會認(rèn)知角度來看，更為關(guān)鍵節(jié)點(diǎn)是在2016年的美國總統(tǒng)選舉和英國脫歐等事件中，社交媒體bot被媒體廣泛報(bào)道，進(jìn)而被大眾熟知。

 

2016年11月，美國大選分出勝負(fù)。但根據(jù)美國當(dāng)?shù)孛襟w的報(bào)道，競選雙方的網(wǎng)上“支持者”中均有不少是機(jī)器人。根據(jù)統(tǒng)計(jì)，在2016年美國總統(tǒng)大選討論中活躍的Twitter用戶，有15%是機(jī)器人，至少有40萬個(gè)機(jī)器人發(fā)布了380萬條推文，約占總量19%[3]。

 

同年6月，英國舉行了脫歐公投，在公投的推進(jìn)過程中，社交媒體上爆發(fā)了激烈的討論。英國《獨(dú)立報(bào)》認(rèn)為，社交媒體bot在脫歐公投中發(fā)揮了重要的戰(zhàn)略作用[4]。

 

由于時(shí)空差異性，不管是當(dāng)時(shí)的美國大選還是英國脫歐，都離現(xiàn)在的我們比較遠(yuǎn)。大部分人對社交媒體bot的切身感知，還是源于日常的社交媒體使用經(jīng)驗(yàn)：那些隨處可見的廣告機(jī)器人、發(fā)布詭異內(nèi)容的僵尸賬號、關(guān)注列表里不知來源的關(guān)注者等等。

 

盡管社交媒體bot中也有許多正面用途的存在，但是它們中的大部分，通常是以負(fù)面形象走進(jìn)網(wǎng)友視線的。

 

營造數(shù)據(jù)上的虛假繁榮

 

在社交媒體時(shí)代，粉絲數(shù)和互動(dòng)數(shù)，常常被認(rèn)為是影響力的象征，而影響力又與變現(xiàn)能力緊密掛鉤。以Twitter為例，一個(gè)擁有十萬粉絲的KOL一條推文的平均收入大致為2000美元，而擁有百萬粉絲的KOL一條推文收入會賺到20000美元。

 

在這樣的利益驅(qū)動(dòng)下，社交媒體bot的主要作用之一，就是刷量，從而營造出一種虛假繁榮的狀態(tài)。點(diǎn)贊、評論、轉(zhuǎn)發(fā)、關(guān)注，凡是能用數(shù)據(jù)量化的，都是bot的用武之地。

 

《紐約時(shí)報(bào)》曾發(fā)布一篇題為The Follower Factory的深度報(bào)道，報(bào)道調(diào)查了僵尸粉販賣公司Devumi。Devumi擁有20多萬名客戶，包括真人秀明星、職業(yè)運(yùn)動(dòng)員、喜劇演員、TED演講者、牧師和模特。

 

大多數(shù)情況下，賬號所有者會自己購買僵尸粉，除此之外，員工、經(jīng)紀(jì)人、公關(guān)公司、家人或是朋友也會擔(dān)任購買者角色，每個(gè)假賬號僅需花費(fèi)幾分錢甚至更少。在短短幾年內(nèi)，Devumi至少向3.9萬名客戶出售了大約2億個(gè)Twitter關(guān)注，獲利超600萬美元。[5]

 

通過影響輿論來影響重要事件

 

因?yàn)閿?shù)量龐大且行動(dòng)統(tǒng)一，社交媒體bot可以營造一種輿論假象，即一條信息或某種觀點(diǎn)，無論真實(shí)性如何，都受到許多人的歡迎和認(rèn)可。

 

借助這一點(diǎn)，社交媒體bot就能影響重要事件進(jìn)程，例如金融市場，通過大規(guī)模發(fā)布捏造的公司正面或負(fù)面消息，從而影響股價(jià)。

 

助推非法廣告宣傳

 

大多數(shù)用戶刷社交媒體時(shí)，應(yīng)該都在評論區(qū)遇到過一些用色情圖片為非法網(wǎng)站引流的廣告機(jī)器人，這是社交媒體bot的另一個(gè)關(guān)鍵作用：發(fā)布非法廣告。這些廣告往往與博彩、色情等行業(yè)有關(guān)，并可能進(jìn)一步引向釣魚攻擊和網(wǎng)絡(luò)詐騙，無法通過正常廣告渠道的審核，只能借助機(jī)器人的渠道來散播。

 

圖片來源：視覺中國

 

隨著社交媒體不斷發(fā)展，社交媒體bot的比例也在急劇上升。2015年，亞利桑那州立大學(xué)的Morstatter和Carley等學(xué)者的研究認(rèn)為，Twitter中至少有7%帳號是社交機(jī)器人。而2017年的另一項(xiàng)研究發(fā)現(xiàn)，多達(dá)4800萬的Twitter賬號是機(jī)器人，占總用戶的15%。[6]

 

而此前Twitter高管在國會作證時(shí)表示，只有5%的Twitter賬號是由機(jī)器人操作的。關(guān)于虛假賬號的比例，也是馬斯克和Twitter遲遲無法達(dá)成一致的原因之一。

 

當(dāng)然，社交媒體bot不只是Twitter一家的特色，其他社交媒體的情況同樣嚴(yán)重。2021年，一項(xiàng)研究統(tǒng)計(jì)，Instagram平臺上只有55%的個(gè)人資料是擁有合法賬號的真實(shí)人物[7]。2017年11月，根據(jù)Facebook向投資者透露，該平臺上的虛假賬號可能超過6000萬。

 

bot有沒有好壞之分？

 

社交媒體bot往往有這樣一些特性：每天大量發(fā)布內(nèi)容、頭像通常是圖案而非真實(shí)用戶照片、關(guān)注數(shù)遠(yuǎn)高于被關(guān)注數(shù)、不切實(shí)際的回復(fù)速度、發(fā)布內(nèi)容相同且重復(fù)等等。

 

初期，用戶還能夠根據(jù)這些特性來分辨哪些是bot，哪些是真人，但隨著技術(shù)能力的提升，社交媒體bot的仿真程度越來越高，因而也帶來更高的識別難度，普通用戶往往沒有這個(gè)辨別力。

 

顯而易見的事實(shí)是，不管是內(nèi)容生態(tài)還是用戶體驗(yàn)方面，社交媒體bot都給社交媒體帶來了許多負(fù)面影響，而且還容易產(chǎn)生法律風(fēng)險(xiǎn)。

 

出于這一點(diǎn)，打擊社交媒體bot成為一場持久而艱難的戰(zhàn)爭。許多工作通常是平臺本身做的，比如Twitter、Instagram、Facebook等，都曾借助大規(guī)模算法檢測來識別機(jī)器人賬號，并進(jìn)行封禁，但為了避免被灰產(chǎn)利用，打擊策略通常保密。

 

還有一些檢測措施來自平臺外部，比如美國印第安納大學(xué)推出的Bostometer（前身為BotOrNot），就是最著名的機(jī)器人賬號檢測工具。這是一項(xiàng)公共網(wǎng)絡(luò)服務(wù)，通過檢查Twitter賬號的行為活動(dòng)，根據(jù)多項(xiàng)評判指標(biāo)賦予該賬號一個(gè)分?jǐn)?shù)。

 

在此類檢測中，“蜜罐賬號”的方式常常會被使用，即發(fā)布明顯的荒謬內(nèi)容，吸引機(jī)器人賬號轉(zhuǎn)發(fā)，這樣就能快速識別社交媒體bot。不過，由于社交媒體bot的進(jìn)化迅速，檢測方法必須不斷更新，否則將很快失效。

 

當(dāng)然，對于社交媒體bot，“技術(shù)中性論”的原則依然值得考慮：技術(shù)是中性的，決定它們?nèi)绾问褂玫氖潜澈蟮娜恕?/span>

 

盡管社交媒體bot往往與“假新聞”“仇恨言論”“刷量”“灌水”等負(fù)面詞匯聯(lián)系在一起，但是也不乏正面的例子，比如自動(dòng)抓取、聚合來自各種來源內(nèi)容的bot：Twitter上每日更新天氣情況、或者發(fā)布簡單新聞提要的機(jī)器人等等，它們隨處可見，不乏關(guān)注者，并且已經(jīng)成為社交媒體內(nèi)容生態(tài)的重要組成部分。

 

為了讓這類bot的功能更豐富，Twitter此前曾宣布將實(shí)現(xiàn)一定程度的自動(dòng)化，以使其API可以被免費(fèi)調(diào)用?，F(xiàn)在，Twitter上的bot賬戶，已經(jīng)能夠提供報(bào)時(shí)、地震警告、股市新聞、火車延誤信息等豐富的服務(wù)型資訊內(nèi)容。

 

這樣的bot賬號在國內(nèi)社交媒體也很常見，比如“冷知識bot”“老照片bot”這樣的關(guān)注垂直話題的bot，又或者是“周杰倫_bot”這類同步明星偶像動(dòng)態(tài)的機(jī)器人。

 

不過，相比起天氣預(yù)告機(jī)器人，后面這些賬號嚴(yán)格來說已經(jīng)不算是社交媒體bot，背后多是由真人運(yùn)營的，內(nèi)容來源也非自動(dòng)抓取，更多是粉絲投稿。

 

圍繞著機(jī)器人賬號本身的觀察，也成為一道獨(dú)特的景觀。它們所發(fā)布的內(nèi)容，大多基于數(shù)據(jù)庫已有信息存儲或是對平臺現(xiàn)有內(nèi)容的抓取，并通過進(jìn)一步拼接合成而生成，但由于技術(shù)成熟度不高，這些內(nèi)容多數(shù)邏輯混亂，并存在語序錯(cuò)亂、標(biāo)題錯(cuò)用等問題。

 

然而，把這些經(jīng)不起推敲的文字去語境化，有時(shí)能得到具有別樣文字美感的“僵尸文學(xué)”。

 

此前全媒派的一篇文章對此有所討論，并將僵尸文學(xué)劃分為“僵味情詩”“僵生哲理”“心靈僵湯”“意識流”等幾種類型。“在這種看似無序的文字碎片中，時(shí)而也會出現(xiàn)超現(xiàn)實(shí)趣味的‘意外之喜’”。

 

美國一家科技公司甚至推出了Twitter的“僵尸”克隆版社區(qū)：Botnet。在社區(qū)中，用戶的賬號是唯一的真實(shí)的社交賬號，而其他用戶是癡迷于夸贊用戶的社交媒介bot。無論用戶發(fā)布什么內(nèi)容，都有數(shù)以萬計(jì)的“僵尸賬號”給用戶點(diǎn)贊、評論。[8]

 

還有一種社交媒體bot類型，成為許多品牌和公司的寵兒，即具有查詢和自動(dòng)回復(fù)功能來進(jìn)行客服服務(wù)的bot，它們可以提供快速響應(yīng)和全天候在線服務(wù)，來滿足消費(fèi)者的需求。

 

總而言之，盡管社交媒體bot因?yàn)樨?fù)面的使用方式而被關(guān)注，但它們也有相對正面的用途。技術(shù)是中性的，如何使用，要看背后的人。

 

人和bot共存，是必然嗎？

 

社交媒體時(shí)代，也是一個(gè)萬事萬物都可以被數(shù)據(jù)化的時(shí)代。一個(gè)人的影響力和知名度可被量化，與關(guān)注者等數(shù)字緊密掛鉤；而影響力又代表著各種變現(xiàn)能力：帶貨、接廣告、做代言……

 

當(dāng)原來越多的人意識到“數(shù)據(jù)-影響力-變現(xiàn)”鏈條的存在時(shí)，社交媒體bot及其背后的整個(gè)行業(yè)就涌現(xiàn)而出。

 

假粉絲、假點(diǎn)贊和自動(dòng)評論，催生出耀眼的、巨大的虛假泡沫。品牌方為動(dòng)輒百萬計(jì)的關(guān)注數(shù)字，支付了高額刊例價(jià)和大量代言費(fèi)，但卻很少接觸到對應(yīng)數(shù)量的目標(biāo)受眾。一項(xiàng)由CBS News報(bào)道的數(shù)據(jù)顯示，2019年全年，企業(yè)因“影響力欺詐”預(yù)計(jì)損失至少達(dá)13億美元[9]。

 

受害者不僅僅只有企業(yè)，如前文所說，社交媒體bot還會被用于操縱輿論，也是電信欺詐等非法活動(dòng)的主要宣傳手段，所以受害者可能是我們每一個(gè)人。

 

即便負(fù)面影響如此之大，但是社交媒體bot卻遲遲未能清除，反而愈發(fā)猖獗，除了巨大的利益誘惑之外，其實(shí)還涉及相當(dāng)復(fù)雜的原因，平臺層面的猶豫不決就是其一。

 

近幾年，許多社交媒體平臺采取了更加嚴(yán)格地打擊機(jī)器人賬號的措施，問題是，不管是更嚴(yán)格的注冊門檻，還是大規(guī)模的算法打擊，都有誤傷真實(shí)用戶的可能性。

 

同時(shí)，社交媒體往往要以數(shù)據(jù)的增長與否作為衡量平臺發(fā)展的依據(jù)，如用戶數(shù)、日?；?dòng)數(shù)、點(diǎn)擊數(shù)等，而這些數(shù)字也是廣告主付出廣告費(fèi)的理由所在。

 

而社交媒體bot恰恰能提供這些方面的虛假繁榮，換句話說，社交媒體bot營造出的數(shù)據(jù)，不僅是渴望虛假影響力的“大V”們所追求的，一定程度上也是社交媒體平臺自身所需要的。

 

圖片來源：視覺中國

 

所以，盡管機(jī)器人賬號的存在會持續(xù)傷害社交媒體的生態(tài)，但打擊它們卻需要平臺自身極大的決心和長期主義精神，顯然并非所有平臺都是長期主義的信奉者。

 

2016年，Incapsula的一項(xiàng)研究得出結(jié)論：世界上一半以上的互聯(lián)網(wǎng)流量是由機(jī)器人產(chǎn)生的。這些機(jī)器人中有近30%被確定為“壞機(jī)器人”[10]。

 

社交媒體bot存在的更深層原因，就是對數(shù)據(jù)的推崇。啟蒙運(yùn)動(dòng)以來，科學(xué)與理性成為一種新的“拜物教”，步入現(xiàn)代社會，量化和數(shù)據(jù)成為了這一“拜物教”所追求的新錨點(diǎn)。

 

我們陷入到一種對于數(shù)字的狂熱追求之中，而社交媒體bot的存在，正是能夠維持這種狂熱的人為動(dòng)力之一。只要對于數(shù)據(jù)的推崇始終存在，社交媒體bot或許永遠(yuǎn)都不會消失。

 

社交媒體bot亦是一種隱喻。它是技術(shù)蔓延到各個(gè)領(lǐng)域的結(jié)果之一，先是生產(chǎn)與生活，是大機(jī)器、手機(jī)、汽車、飛機(jī)，我們已習(xí)以為常，并習(xí)慣享受技術(shù)所創(chuàng)造的便利，而現(xiàn)在到了思想與交流領(lǐng)域，我們才開始覺得這可能是一個(gè)問題。

 

隨著技術(shù)進(jìn)一步發(fā)展與應(yīng)用，我們可能也會覺得，與社交媒體bot共處是一件再正常不過的事情。

 

在The Rise of Social Bots這篇論文結(jié)尾處，作者Ferrara這樣預(yù)測：在社交媒體的未來，機(jī)器與機(jī)器的互動(dòng)會是常態(tài)的方向，人類將在一個(gè)主要由機(jī)器人組成的世界中航行[11]?，F(xiàn)在這種趨勢其實(shí)在逐漸顯現(xiàn)，很大程度上，如何分辨正常用戶與機(jī)器人，然后繼續(xù)自己的網(wǎng)絡(luò)沖浪之旅，已經(jīng)成為當(dāng)下社交媒體用戶的必備能力。

 

或許有一天，不止是社交媒體，現(xiàn)實(shí)世界也成為了一半由bot、另一半由真實(shí)人類構(gòu)成的虛實(shí)交織的世界，那現(xiàn)在的社交媒體bot，或許是為我們提供了一種提前演練的機(jī)會吧。

 

【今日互動(dòng)】

 

你在互聯(lián)網(wǎng)上遇到過哪些社交媒體bot呢？對于它們的存在，你持什么樣的態(tài)度？歡迎在評論區(qū)和我們交流~