新聞寫作機器人性別偏見的個案研究

齊琳琿

人們正逐漸意識到人工智能并非是客觀中立的，而是可能存在偏見的，這種偏見見于人種、職業(yè)、性別等多個方面，在人類社會存在已久，不同領域的學者一直在致力于研究與改變這些偏見。人工智能的出現(xiàn)，可能不但不會緩解性別偏見，相反會進一步加劇。一方面，因為機器算法不同于人類，無法抵制其所學到的偏見，對性別有偏見的社會價值觀可以植根于數(shù)據(jù)庫之中，并通過機器學習進入算法之中。另一方面，與之前所有技術一樣，人工智能技術也將在某種程度上反映創(chuàng)造者的價值，由于人工智能的開發(fā)者絕大多數(shù)是男性，在這些技術的設計中，男性的過度代表性對于人工智能特性的影響，可能會悄然抵消幾十年來在兩性平等方面取得的進步。這種技術代表性上和語言上的原因而造成的性別偏見已有許多例子，比如之前谷歌翻譯將“強壯”“醫(yī)生”等詞與男性相聯(lián)系，而將“護士”“美麗”等詞與女性自動關聯(lián)。人工智能領域的研究者們應關注到可能存在的偏見問題，以避免性別偏見給女性帶來的負面后果再度重演。

近些年來，人工智能技術逐漸應用于新聞傳播領域，智媒時代已經(jīng)到來。從新聞寫作機器人Dreamwriter在騰訊財經(jīng)頻道的報道《8月CPI漲2%創(chuàng)12個月新高》開始，國內(nèi)的新聞寫作機器人正式登上新聞傳播的舞臺，新華社的“快筆小新”、第一財經(jīng)的“DT稿王”、今日頭條的“xiaomingbot”都陸續(xù)上崗。機器人寫作多集中于體育、財經(jīng)新聞報道，南方報業(yè)傳媒集團的小南開始涉及民生新聞。這類寫作機器人的特點是快速、高效、客觀、中立，旨在高效地處理和分析數(shù)據(jù)，進行報道與推送。然而，質(zhì)疑的聲音也隨之而來，人工智能是否可以真正地不存在偏見不帶有情感偏向地審視新聞、寫出稿件，還是偏見在其中以一種不易察覺的方式嵌于機器人所撰寫的稿件之中，對于讀者產(chǎn)生潛移默化的影響？文本試圖以內(nèi)容分析法探究新聞寫作機器人“ZXM”（化名）在報道2018年溫網(wǎng)賽事時是否體現(xiàn)出性別偏見，并試圖討論這種偏見背后可能的原因。

相關理論與文獻梳理

1.新聞寫作機器人與算法偏見

對于諸如xiaomingbot、Dreamwriter、快筆小新這類新聞寫作機器人的稱呼并不一致，通過檢索知網(wǎng)、萬方等數(shù)據(jù)庫，發(fā)現(xiàn)有“機器人新聞寫作”“機器人寫作”“機器人記者”“人工智能新聞生產(chǎn)”等相關用詞，但本質(zhì)上是類似的，所指的都是基于人工智能和大數(shù)據(jù)技術進行新聞稿件生產(chǎn)的計算程序，這些程序通過算法對所收集的數(shù)據(jù)進行分析、處理和加工，從而形成一篇完整的報道。雖稱其為機器人并以人名進行命名，但其并無實體身份，而是程序與算法。本文選取的研究對象ZXM屬于二代寫稿機器人，寫稿速度更快，可以在2秒內(nèi)完成稿件并發(fā)布；擬人化程度也更高，會根據(jù)選手的實際比賽成績與賽前預測，以及比分的差距大小，自動調(diào)整撰寫新聞稿件的語氣；除此之外，它可以從圖庫中自動識別和篩選圖片，將其插入新聞稿件之中，使報道更加完善。

關于新聞寫作機器人的研究起步較晚，但發(fā)展迅猛。新聞寫作機器人的應用提高了生產(chǎn)效率，轉(zhuǎn)變了生產(chǎn)方式[1]。但同時也帶來了新的倫理問題，基于大數(shù)據(jù)的機器學習存在侵犯隱私的可能性[2]，數(shù)據(jù)的失實會造成新聞失實[3]，即使數(shù)據(jù)真實可靠，但新聞寫作機器人的算法的可能帶有偏見，也會導致報道中的偏見[4]。算法的偏見可能存在于算法設計和運行的每一個階段。首先，算法設計師有意的或者無意的認知偏見進入算法的設計之中會導致有偏見的算法[5]。其次，社會存在的數(shù)據(jù)進入機器學習程序之中，由于這些數(shù)據(jù)中本身就帶有人類社會現(xiàn)存的偏見，機器學習會識別出這些偏見并將其納入算法之中[6]。對于算法中的偏見的研究，可以破除對于算法“中立”“權威”的迷信，避免人為算法所控制。但是由于算法的“黑箱”特性和源數(shù)據(jù)的龐大、難以測量，很難通過科學的方法對算法中的偏見進行判定。新聞寫作機器人的出現(xiàn)或許提供了探究算法是否存在偏見的一種新的路徑——從結果逆推過程，即從新聞寫作機器人生產(chǎn)的報道切入展開研究。

2.新聞報道中的性別偏見研究

盡管女性主義者一直都在致力于改變性別偏見問題，但在新聞報道中仍然存在性別刻板印象。性別刻板印象主要是從批判的視角出發(fā)，認為媒介中的女性被塑造為迎合男權文化的形象，鞏固大眾對于女性和男性的形象認知，從而維護男權文化與男權觀念。也就是說，通過媒介的加工，男性和女性的社會性別差異被凸顯。對于報道中的性別偏見的研究一直未曾停止。已有研究通過對記者所生產(chǎn)的新聞進行內(nèi)容分析發(fā)現(xiàn)，性別偏見與新聞報道的主題和選擇相關，在體育、政治和商業(yè)領域更為普遍[7]。比如，體育報道中存在的對于女性運動員的性別刻板印象——重點描述外在形象或者家庭身份等。報道中的性別偏見不僅體現(xiàn)于文本之中，還存在于報道中所選擇圖片的數(shù)量與類別。除時尚相關報道外，關于石油、政治、市場、運動、商業(yè)、技術等領域的報道，有關男性的圖片數(shù)量遠高于女性，其中體育領域，報道中的男性圖片數(shù)量約是女性圖片數(shù)量的三倍[8]。我國也有研究發(fā)現(xiàn)對男子運動員的體育報道的圖片數(shù)量高于女子運動員，且報道中的圖片內(nèi)容因性別不同而有所差異[9]。新聞寫作機器人“ZXM”擁有強大的自動選圖功能，也就是可以實現(xiàn)圖文自動關聯(lián)發(fā)稿，這一功能的實現(xiàn)是通過學習圖文語義匹配模型，再從龐大的圖文數(shù)據(jù)庫中尋找合適的配圖[10]。新聞寫作機器人智能選圖方式是否對原本體育報道的圖片呈現(xiàn)中可能存在的性別偏見問題有所改善，還是這種偏見依然存在？對此，本文提出以下問題：

Q1:新聞寫作機器人在報道2018溫網(wǎng)公開賽時，對男選手和女選手的圖片報道數(shù)量是否存在差異？

Q2：新聞寫作機器人在報道2018溫網(wǎng)公開賽時，男女選手在報道圖片中的呈現(xiàn)方式是否有所不同？

研究方法

本研究選擇的樣本是新聞寫作機器人“ZXM”對2018年溫網(wǎng)公開賽的報道中的圖片，共從239篇報道中收集到圖片605幅，男女選手是主要的研究關注對象。采用的方法為內(nèi)容分析法。具體操作流程為：提出研究問題或假設；選擇樣本；定義編碼類別；對編碼內(nèi)容進行編碼，檢查編碼的可靠性；對編碼過程中采集的數(shù)據(jù)進行分析和解釋。

通過參照以往關于網(wǎng)球賽事的體育報道的性別偏見研究，將類目構建為圖片對象、圖片主題——圖片對象為男選手和女選手，以回答問題一；圖片主題分為運動類圖片、情緒類圖片和其他，以回答問題二[11]。運動類圖片中根據(jù)圖片強調(diào)的運動能力的不同，分為對抗類、速度類、技巧類、力量類。對抗類指的是強調(diào)對手之間的對抗，速度、技巧和力量則是看抓拍瞬間所強調(diào)的是哪一方面。情緒類分為贏球后的平靜、勝利后的喜悅及丟分后的失落。其他類包括兩類，一類為非選手本身的照片，而是與選手有關聯(lián)的人的照片，包括評委、教練、觀眾、愛人等。另一類是選手的照片，但并非在比賽時的照片，如離場、接受采訪、擦汗等。

在對樣本數(shù)據(jù)編碼完成一個月后，為了測試編碼信度，筆者選取了10%的樣本，根據(jù)編碼類別，再次進行編碼，結果與前一次編碼所得顯示一致。

研究結果

Q1:新聞寫作機器人在報道2018溫網(wǎng)公開賽時，對男選手和女選手的圖片報道數(shù)量是否存在差異？

在2018年溫網(wǎng)公開賽期間，新聞寫作機器人“ZXM”對男選手的報道中配圖總計有391幅，對女選手的報道中配圖共有214幅。ZXM對男子運動員的報道中的配圖數(shù)遠高于關于女子運動員的報道中的圖片數(shù)目。為了進一步看出其中的差異，對八分之一決賽、四分之一決賽的男女選手的報道所配圖片數(shù)量進行比較，發(fā)現(xiàn)關于男選手的報道配圖在4張以上（包含4張），而女選手報道的配圖多為2或3張。

Q2：新聞寫作機器人在報道2018溫網(wǎng)公開賽時，男女選手在報道圖片中的呈現(xiàn)方式是否有所不同？

依據(jù)所構建的類目，對報道圖片進行編碼所得結果如圖1所示，發(fā)現(xiàn)男女選手在報道圖片中的呈現(xiàn)方式并不相同。圖1中可以直觀看出大多數(shù)類別中男選手的圖片數(shù)量都是遠高于女選手的，只有兩類例外。一是失落情緒類圖片。溫網(wǎng)賽事中，男子選手的報道圖片中包含因失球或輸?shù)舯荣惗@露出失落情緒的圖片只有5張，而女子選手則有10張。二是報道中的非運動的關聯(lián)類圖片，關于女子比賽報道中此類照片明顯多于男子比賽報道，且有多張是關于女選手與男教練對話的，女選手在照片中處于角落位置，而教練處于中間位置。以構圖方式來凸顯兩人的關系和地位一直是電影和照片拍攝的一個重要手法，但在以比賽和運動選手為主角的報道中，將主角安排于圖片角落位置，這種構圖是否合適有待思考。除此之外，從圖表中還可以看到男子與女子運動類照片有一個明顯區(qū)別就是對抗類照片的有無。對抗類照片所突出的是對手之間的張力與對抗性。而女子運動照片都為突出單人選手的，并未有對抗類圖片。

圖1. 男女選手在報道圖片中的呈現(xiàn)方式比較

可以通過餅狀圖進一步比對男女選手報道的圖片差異。關于男選手報道中的運動類圖片占比（76%）要高于女選手（67%）；關聯(lián)類圖片分別為11%與20%；情緒類（13%）持平。盡管男女選手的情緒類圖片比例一致，但其中所呈現(xiàn)的具體情緒類型確有所不同（圖2）。呈現(xiàn)因丟分或失敗而引發(fā)的失落情緒的圖片所占比重，女子運動員的（34%）顯著高于男子運動員的（10%），而喜悅類情緒則相反，男子運動員（31%）高于女子運動員（14%）。

討 論

1.社會中的性別偏見如何進入新聞寫作機器人的稿件之中

通過分析“ZXM”對2018年溫網(wǎng)公開賽的報道，結果發(fā)現(xiàn)男子賽事報道圖片數(shù)量明顯多于女子賽事的，且男女選手在圖片內(nèi)容的呈現(xiàn)方式上存在差異，男選手的運動類圖片比例較女選手的多，且與運動無關的圖片比例較女選手少；情緒類圖片中更突出男選手勝利后的表情和女選手丟分后失落的表情。新聞寫作機器人體現(xiàn)出這種偏見并非是預設了偏見程序，而是數(shù)據(jù)庫中的圖片本身在數(shù)量和內(nèi)容上存在一定性別差異，新聞寫作機器人通過學習圖文語義匹配模型，自動從數(shù)據(jù)庫中為新聞稿選擇配圖，而數(shù)據(jù)庫的圖片由人所拍攝并上傳。在“女子1/32單打決賽Katie Boulter 0：2大坂直美”的報道中，所配圖片是Boulter金色長發(fā)披肩，身穿一身時尚休閑衣服的形象，而非運動場上的形象。這種對于女子運動員生活照而非運動照的關注在傳統(tǒng)的體育新聞報道中有所體現(xiàn)，社會中的性別偏見通過拍攝的圖片和圖文進入網(wǎng)絡數(shù)據(jù)庫中，并最終體現(xiàn)于新聞寫作機器人的稿件之中（圖3）。

2.如何解決新聞寫作機器人的偏見：有道德的算法

智能寫作機器人現(xiàn)階段只體現(xiàn)在了功能性層面，而并非真正實現(xiàn)了“智能”，它們無法識別數(shù)據(jù)庫中存在的偏見和錯誤。在技術層面，可以試圖建構“有道德的算法”——對偏見內(nèi)容予以識別與修正，通過一種“自上而下和自下而上相結合的學習路徑”[12]。一方面，從倫理理論入手，將人類道德體系中已經(jīng)成熟、公認的一些原則轉(zhuǎn)換為算法的一套規(guī)則；另一方面，讓人工智能循照孩童成長的路徑，習得人的良善品德。要實現(xiàn)這種有道德的算法，首先需要人工智能相關研發(fā)人員具有一定的倫理道德，能夠認識到人工智能可能存在的偏見，才可以對解決方法進行思考。東京奧運會期間，預計將有更多新聞機構采用機器人“記者”，如何避免人工智能的性別偏見應該予以重視。

圖2. 男女運動員情緒類報道圖片成分比較

圖3.性別偏見影響過程