Hong Kong PR

(SeaPRwire) –   在1990年代和2000年代初期,科技工作者曾向世人作出宏伟承諾:新的通訊科技將加強民主,削弱專制,引領人類進入新的昌盛時代。但今天,已很少有人認為互聯網已實現這樣高尚的目標。

今天,在社交媒體平台上,內容往往會根據它獲得的參與度而被排名。在過去的二十年裡,政治、媒體和文化都已根據單一而絕對的動機來重塑自己:那些引起情緒反應的帖子通常會排到最前面。

改善網路空間健康的努力長期以來都集中在內容管制,即偵測和移除不良內容。科技公司聘請工作人員並建立人工智慧來識別仇恨言論、煽動暴力和騷擾。這做得不完美,但它阻止了最惡劣的毒性內容湧入我們的 feeds 。

但有一個問題是:雖然這些人工智慧有助於移除壞內容,但它們並沒有提升好內容。「你看到一個工作正常的互聯網,在那裡我們能進行健康或有成效的對話嗎?」Google 的 Jigsaw 單位 CEO Yasmin Green 問道,Jigsaw 於2010年成立,旨在解決開放社會面臨的威脅。「沒有。你看到的是一個越來越分裂的互聯網。」

如果有其他方法呢?

Jigsaw 認為它找到了一種方法。週一,Google 的子公司發布了一些新的分類器,或分類器,可以根據內容可能包含好內容的可能性對帖子進行分級:帖子是否含糊不清?是否包含基於證據的推理?是否分享個人故事,或促進人類同情心?通過返回代表帖子可能包含這些美德和其他美德的數值(從0到1),這些新的人工智慧工具可以允許網路空間設計人員以新的方式對帖子進行排名。取代以喜歡或評論數量最多的帖子排在最前面,平台可能 – 為了培養更好的社區 – 選擇將最富同情心的評論或最富同情心的評論放在首位。

這項突破成為可能,得益於大型語言模型(LLM)的近期進步,這種人工智慧支撐聊天機器人如ChatGPT。過去,即使是訓練人工智慧來檢測簡單形式的毒性,如帖子是否有種族主義,也需要數百萬個標籤示例。那些較舊的人工智慧形式通常脆弱而無效,不僅如此,開發也很貴。但新一代LLM可以在無需訓練的情況下識別複雜的語言概念,並將它們定制為特定任務也更便宜。Jigsaw 的新分類器可以識別帖子是否包含「屬性」,如是否包含個人故事、好奇心、含糊性、同情心、推理、親和力或尊重。「開始可以談論建立同情心或好奇心或含糊性分類器等概念變得可行,」加州人類相容人工智慧中心高級科學家Jonathan Stray 說。「我們在檢測這些模糊、內容性和一見難忘的概念方面變得越來越好。」

這種新的能力可能對互聯網產生重大影響。Green和越來越多研究社交媒體對公共辯論影響的學者認為,內容管制是「必要但不足夠」使互聯網變得更好。他們說,提升正面內容的方法可能對個人關係以及社會規模產生積極影響。「如果能以足夠廣泛的方式改變內容排名方式,可能能夠改變整個系統的媒體經濟,」Stray說,他並未參與Jigsaw項目。「如果足夠多的算法分發渠道不利於分裂性言論,那麼生產它就不再值得了。」

三月下旬的一個早晨,Jigsaw在紐約辦公室的Tin Acosta加入視頻會議。會議室後牆有一張2003年格魯吉亞玫瑰革命的大型照片,當時和平示威者推翻了該國蘇聯時代的政府。其他房間有敘利亞、伊朗、古巴和朝鮮的類似照片,「展示人們如何利用科技和聲音爭取自由,」Jigsaw的新聞官,也在場,告訴我。這些照片旨在提醒Jigsaw的使命,利用科技為善,並有責任為民主社會和壓制性社會服務。

Acosta在她的筆記本電腦上啟動了Jigsaw新的分類器的演示。使用一個最近Reddit論壇380條評論的數據庫,Jigsaw高級產品經理Tin Acosta開始展示使用不同分類器對帖子進行排名將如何改變類型的評論會上升到頂部。原貼文問道尋求讓人生命充滿意義的電影建議。根據Reddit的默認排名 – 收到最多讚的帖子 – 最頂部的評論很短,除了熱門電影的標題外幾乎沒有其他內容。然後Acosta點擊下拉菜單,選擇了Jigsaw的推理分類器。帖子重新排列。現在,最頂部的評論更詳細。「你開始看到人們對回應真正思考,」Acosta說。「這裡有人不僅談論學校搖滾樂隊的情節內容,還談論電影如何改變他的生活,讓他愛上了音樂。」(TIME同意不直接引用評論內容,Jigsaw表示該評論僅用於演示目的,未用於訓練其AI模型。)

Acosta選擇了另一個分類器,她最喜歡的之一:帖子是否包含個人故事。現在,最頂部的評論來自一位用毯子和藥物影響下,在《無所不在》中Ke Huy Quan的獨白中哭得那麼厲害,不得不多次暫停電影。另一個頂級評論描述了一個電影預告如何激發他離開一份讓他不快樂的工作。另一個講述了一部電影如何讓他想起10年前去世的姐姐。「這是一個很好的方式來理解對話並非只根據參與度或新穎度來看待它,」Acosta說。

為了在更廣泛的互聯網上產生影響,這些分類器需要技術巨頭的認可,它們都處於為我們的注意力進行零和競爭的狀態。雖然它們是在Google內部開發的,但科技巨頭沒有計劃開始使用它們來幫助排名YouTube評論,Green表示。相反,Jigsaw正將這些工具免費提供給獨立開發者,希望小型網路空間,如討論板和報紙評論區,將建立證據基礎,證明新的排名形式受用戶歡迎。

當然也有一些理由感到懷疑。儘管有缺陷,根據參與度進行排名是平等的。不論內容如何,熱門帖子都會得到放大,在這種方式下社交媒體允許長期被傳統媒體拒之門外的群體發聲。將人工智慧引入可能會威脅這種狀態。大量研究表明,LLM固有很多偏見;如果過於倉促應用Jigsaw的分類器,可能會促進已在網路上聲音響亮的群體,進一步邊緣化其他群體。分類器也可能通過提供簡單的人工產生內容配方來加劇網路上人工內容泛濫的問題。即使Jigsaw避免這些問題,但對網路言論進行調整已成為政治地雷區。保守派和自由派都認為自己的帖子被審查;同時,科技公司因為對全球公共論壇影響的不可問責決定而面臨指責。Jigsaw認為,新的工具可能允許科技平台在較少依賴具有爭議性的內容管制實踐的情況下運作。但改變網路上哪種言論得到獎勵必然會有政治反對者。

儘管如此,學術界對該項目持樂觀態度。Jigsaw正努力證明,通過提升正面內容,可以改善網路空間。如果成功,可能會對人類社會產生深遠影響。