任貝佳? 何苑
【內容摘要】算法在給人們帶來便利的同時，其誘發的諸多風險挑戰也引起各界擔憂。“算法素養”概念在此背景下應運而生，旨在促進用戶捍衛自身自主選擇權，抵御算法的負面影響。本文對“算法素養”進行了研究分析，并就未來的算法素養教育實踐提出建議。
【關鍵詞】算法素養；算法知識；算法意識；數字鴻溝；內容生產
當前算法在社會生活的各個方面扮演著愈加重要的角色，人們幾乎每天都會使用算法平臺，接觸經算法篩選、過濾后的信息，并可能不加懷疑地接受，而基于算法的內容自動生成技術也越來越為大眾所熟知。2022 年 11 月，美國人工智能研究公司 OpenAI發布了人工智能聊天機器人 ChatGPT，它不僅能通過對話的方式解答諸如“世界上面積最大的洲”等較為常規的問題，甚至能以及格分數通過大學考試。這一技術在引起人們廣泛關注的同時，其可能帶來的不良后果（如虛假信息、虛假新聞等）也引發人們擔憂。毋庸置疑，如今算法已不僅僅是一種技術工具，而是成為改變并形塑社會文化，影響個體認知與行為的一項人類生活基礎設施。對于算法引起的諸多問題，眾多學者對其進行了反思與批判。在這些研究當中，一些學者從用戶的主體能動性出發，提出“算法素養”（Algorithm literacy）概念，并認為其可能成為促使用戶捍衛自身的自主選擇權、抵御算法負面影響的關鍵因素。近年來，圍繞“算法素養”展開的研究日益豐富，出現了許多不同的“算法素養”定義。同時，由于算法應用場景等的多樣性，以及語境、文化等的差異性，學者研究的問題類型不盡相同，出現了許多研究視角。因此，本文旨在歸納分析現有的與“算法素養”相關的定義及研究，并在當前研究結果的基礎上為未來研究提供參考。為實現這一目的，作者進行了中英文文獻的檢索收集：中文文獻通過在中國知網的主題欄搜索“算法素養”“算法知識”及“算法意識”3 個關鍵詞篩選得到，英文文獻通過在Google Scholar 搜索“Algorithm(ic) literacy”“Algorithmicknowledge”“Algorithm awareness”3 個關鍵詞搜集而來，作者在此基礎上按照研究目的對文獻進行了篩選。本文將首先分析算法素養研究的重要性，在對算法素養進行定義后總結現有研究成果，最后針對“如何提升算法素養教育”這一問題提出自己的觀點。
一、算法技術的積極應用及社會面臨的挑戰
算法是為解決特定問題及任務（如數據處理、自動推理等）而被定義的一套指令，通常由計算機程序執行。從電子郵件的發送到 GPS 定位技術都需要通過算法實現。隨著大數據和人工智能的發展，算法普遍滲透到消費、醫療、教育、傳媒等領域。如推薦算法在電商平臺的應用，Google、百度等搜索引擎對結果的排名，Facebook、微博等社交媒體平臺的“熱點趨勢”等。對于互聯網用戶而言，網絡技術的飛速發展帶來了信息過載危機，算法機制對信息的整合、篩選，讓用戶能夠更高效地找到自己所需的信息。對于平臺而言，算法能夠分析數量龐大的用戶數據，匹配用戶與信息，提高用戶黏度，從而實現其盈利目標。如新聞資訊平臺今日頭條能將百億信息與上億用戶進行匹配。
算法的發展提升了各行業的工作效率，并帶來全新的機遇。然而，算法在給人們帶來便利的同時，其誘發的諸多風險挑戰也引起各界擔憂。首先，算法模型存在局限性。雖然算法在運算能力等方面顯著超越人類，但算法模型訓練過程中的各個環節都可能存在局限，而這將帶來不良后果。如當用于機器學習環節的數據庫缺乏代表性及多樣性時，最終由人工智能機器人輸出的結果也會存在偏差，如價值觀偏向。Hartmann 等人在對 ChatGPT 的政治言論進行研究后發現其存在一定的政治偏向。其次，算法技術“向善”與否，與使用者的意圖息息相關。如微軟公司于2016 年發布的人工智能聊天機器人“Tay”在與社交媒體用戶互動的幾小時內，逐漸習得種族歧視、性別歧視等類型的偏激言論。除審核機制設計存在缺陷外，這也與部分用戶有意為之有關。當前算法的所有權主要被科技公司掌控，其所追逐的商業利益常常與公共利益相沖突。在科技公司的操縱下，算法機制可能會變得更加不透明，這將導致用戶逐漸失去決策自主權。近年來受到廣泛關注的數字勞工現象便深刻反映了這一問題。在這些顯性問題之下，體現在用戶認知及行為方面的隱性問題同樣令人擔憂。如有研究者認為算法會導致“過濾泡”問題，在潛移默化中用戶的視野將變得更加狹窄，不同群體間的偏見及不理解將得到深化。算法不僅影響著普通用戶，新聞生產中算法技術的應用也引發了新聞從業者對于職業倫理的反思......（本文為文章截選，完整版請見《教育傳媒研究》2023年第5期，本刊已入中國知網、萬方、維普等相關學術數據庫）
本文系 2022 年度國家社科基金一般項目“技術現象學視角下智能算法嵌入社會與治理研究”（項目編號：22BSH001）的階段性成果。
作者任貝佳系河北大學新聞傳播學院 2021 級碩士研究生；何苑系河北大學新聞傳播學院副教授、碩士生導師，河北省城市傳播研究院研究員
