王 鑫，孫薇薇，穗志方

(1. 北京大學(xué) 計算語言學(xué)研究所，北京 100871； 2. 薩爾布呂肯大學(xué) 計算語言語音學(xué)系，德國)

1 引言

近些年來，多種語言上的語義角色標(biāo)注逐漸成為研究的熱點(diǎn)。現(xiàn)有的中文語義角色標(biāo)注系統(tǒng)一般基于完全句法分析，比如說Sun等[1]、Xue and Palmer[2]、Xue[3]的工作。但由于現(xiàn)有的中文完全句法分析器性能還比較低，基于自動的完全句法分析的中文語義角色標(biāo)注效果并不理想。目前，基于手工標(biāo)注句法樹的語義角色標(biāo)注系統(tǒng)的F值達(dá)到了0.92，但如果使用自動句法分析器時F值則降低到了0.71[3]。而在英文的語義角色標(biāo)注系統(tǒng)中，這種變化則是從0.91[4]降低到了0.80[5]。這些數(shù)據(jù)表明，對于還處于研究初級階段的中文語義角色標(biāo)注任務(wù)來說，完全句法分析的性能成為影響其性能發(fā)展的一個主要因素。同時，我們還認(rèn)識到完全句法分析的結(jié)果是句法樹，從中提取的詞語之間的句法關(guān)系并不一定是語義角色標(biāo)注所必需的，而有些詞語之間的關(guān)系分析并不準(zhǔn)確，這樣就給系統(tǒng)引入了噪音。

在英文中，目前已經(jīng)有相關(guān)嘗試將語義角色標(biāo)注建立在淺層句法分析基礎(chǔ)上，并取得了較好效果，如conll 2004共享任務(wù)、于江德[6]等。而在中文中，對淺層句法分析的研究也已經(jīng)取得了一定進(jìn)展[7]，因此可以成為中文語義角色標(biāo)注的另一種解決思路。

本文將中文語義角色標(biāo)注建立在淺層句法分析的基礎(chǔ)上，首先實現(xiàn)了一個基于組塊的淺層句法分析器，而后進(jìn)行語義角色標(biāo)注。在句法分析階段，根據(jù)漢語自身特點(diǎn)利用構(gòu)詞法獲得詞語的“偽中心語素”來模擬詞語的中心語素，有效緩解了數(shù)據(jù)稀疏問題，提高了句法分析器的性能。在語義角色標(biāo)注階段，利用構(gòu)詞法獲得了目標(biāo)動詞的語素特征，從動詞內(nèi)部結(jié)構(gòu)的角度對動詞的特征進(jìn)行描述。此外，本文還提出了“粗框架”特征來模擬完全句法分析所提供的“子類框架”特征，這種特征是對句子中論元搭配關(guān)系的一種新的描述形式。

本文以正確的切詞和詞性標(biāo)注結(jié)果作為系統(tǒng)輸入，在淺層句法分析后，采用兩種不同的標(biāo)注策略即分步標(biāo)注法和直接標(biāo)注法完成了語義角色標(biāo)注，并且都取得了很好的實驗效果，其中直接標(biāo)注法得到的F值達(dá)到了0.74。這個結(jié)果比現(xiàn)有最好的基于自動完全句法分析的語義角色標(biāo)注系統(tǒng)的性能(0.71)[3]有較明顯的提高。分步標(biāo)注策略下，系統(tǒng)的召回率是0.71，這個效果同樣要明顯優(yōu)于現(xiàn)有的具有最高召回率的語義角色標(biāo)注系統(tǒng)(0.65)[3]。

2 基于構(gòu)詞法的中文淺層句法分析方法

2.1 淺層句法分析的基本原理及基本特征

本文采用Chen等[7]的組塊定義方法，即定義了12種類型的組塊，分別為形容詞短語(ADJP)、副詞短語(ADVP)，類別型詞語(CLP)，“的”字型短語(DNP)、限定型短語(DP)、“得”字型短語(DNP)、地點(diǎn)型短語(LOC)、列表標(biāo)記(LST)、名詞短語(NP)、介詞短語(PP)、數(shù)量詞短語(QP)、動詞短語(VP)。結(jié)合IOB2表示法，本文將淺層句法分析問題轉(zhuǎn)化為了序列標(biāo)注問題，參照Chen等[7]選取的特征作為本文實驗的基線特征，具體包括：

一元文法的詞語和詞性特征： w-2，w-1，w，w+1，w+2

二元文法的詞語和詞性特征： w-2-w-1，w-1-w，w-w+1，w+1-w+2

2.2 構(gòu)詞法信息在淺層句法分析中的應(yīng)用

2.2.1 構(gòu)詞法信息概述

漢語中最大的語法單位是句子，比句子小的語法單位依次是短語、詞、語素。構(gòu)詞法是指由語素構(gòu)成詞的法則，是對既成詞的結(jié)構(gòu)作語法分析，說明詞內(nèi)部結(jié)構(gòu)中語素的組成方式。在構(gòu)詞法理論中，詞語可分為單純詞和合成詞，單純詞由一個語素構(gòu)成，而合成詞有兩個或者兩個以上語素構(gòu)成，這些語素構(gòu)成詞語的方式又有多種，包括偏正、主謂、述補(bǔ)等等。例如“播音”屬于合成詞，其構(gòu)詞方式屬于述賓式；“擴(kuò)大”也屬于合成詞，其構(gòu)詞方式則屬于述補(bǔ)式。

在豐富的構(gòu)詞信息中，目前我們觀察到可以利用其中的語素信息對句法分析以及語義角色標(biāo)注產(chǎn)生幫助。漢語中多數(shù)情況下，一個字便構(gòu)成了一個語素，因此詞語可以由多個不同的語素構(gòu)成，例如“進(jìn)來”由一個動詞中心語素“進(jìn)”和補(bǔ)語語素“來”構(gòu)成，“喝水”由一個動詞中心語素“喝”和賓語語素“水”構(gòu)成。而在英語中，詞語由字母構(gòu)成，字母往往不具有單獨(dú)的含義，因此，英語中的語素單位以及相應(yīng)的構(gòu)詞法特征沒有漢語這樣明顯和普遍，本文將漢語構(gòu)詞法特征中的語素信息運(yùn)用到淺層句法分析以及后續(xù)的語義角色標(biāo)注階段中，并且取得了較好的效果。

2.2.2 可應(yīng)用于淺層句法分析的構(gòu)詞法特征及其獲取方法

一般而言，在合成詞中，兩個語素的語法地位是不同的，在語法結(jié)構(gòu)中處于中心地位的構(gòu)詞成分稱作“中心語素”，在語法結(jié)構(gòu)上處于修飾、補(bǔ)充、說明等次要地位的構(gòu)詞成分(如狀語語素,補(bǔ)語語素等)稱作“附加語素”。中心語素對于詞語句法特征以及語義的表達(dá)都起著極其重要的作用。比如“乒乓球”“羽毛球”和“籃球”，這三個詞語都有相同的中心語素“球”，當(dāng)把“球”作為一個特征項時，其統(tǒng)計信息的顯著性就會得到增強(qiáng)，從而緩解了句法分析過程中的數(shù)據(jù)稀疏問題。

漢語中語素構(gòu)成詞語的形式多種多樣，包括主謂結(jié)構(gòu)、述賓結(jié)構(gòu)、定中結(jié)構(gòu)等，對于任意一個詞語，通過自動的方法準(zhǔn)確判定其構(gòu)成方式，進(jìn)而分析得到其中心語素是比較困難的。在漢語中名詞和動詞是最常使用的詞語類型，從方便實現(xiàn)的角度考慮，本文提取名詞和動詞的“偽中心語素”來模擬其中心語素，作為新特征來為句法分析提供更多信息。

對于名詞，本文選取其最后一個字作為其偽中心語素，因為據(jù)部分統(tǒng)計，名詞中約有80%以上屬于偏正式的構(gòu)詞方式。對于動詞，本文選取首字作為其偽中心語素，原因在于動詞中最常見的是動賓、并列、述補(bǔ)三種結(jié)構(gòu)，而在這些結(jié)構(gòu)中動詞的第一個字在表達(dá)動詞句法特征和語義時都起到了關(guān)鍵性的作用。例如 “指出”、“指明”和“指揮”，其第一個字在語法結(jié)構(gòu)中都處于了中心地位。

因此，在中文淺層句法分析階段，在2.1節(jié)提出的基線特征基礎(chǔ)上，根據(jù)漢語的特點(diǎn)，本文增加名詞和動詞的偽中心語素作為新特征。

3 基于淺層句法分析的語義角色標(biāo)注

3.1 基于淺層句法分析的語義角色標(biāo)注的基本原理和結(jié)構(gòu)

本文采用兩種不同的策略實現(xiàn)了語義角色標(biāo)注。一種是分步標(biāo)注法，即首先進(jìn)行論元識別，確定論元邊界，然后進(jìn)行分類，對選定的論元標(biāo)注角色。另一種是直接標(biāo)注法，即將識別和分類過程合并，直接對句法組塊標(biāo)注語義角色。

在不同的標(biāo)注策略下，本文都首先運(yùn)用一些在角色標(biāo)注系統(tǒng)中被廣泛使用的特征作為基線特征，而后在基線特征的基礎(chǔ)上加入新特征來提高系統(tǒng)的性能。

3.2 基線特征

為了更好地發(fā)揮標(biāo)注策略本身的特點(diǎn)，本文在不同的標(biāo)注策略下使用了不同的特征集。

表1列出了直接標(biāo)注法的基線特征集合，包含以下四個方面： 句法組塊、目標(biāo)動詞、句法組塊和目標(biāo)動詞之間的聯(lián)系[10]以及以上三方面特征構(gòu)成的組合特征。

表1 直接標(biāo)注法基線特征集合

對于分步標(biāo)注法，其識別階段所用的特征與直接標(biāo)注法相同，而對于分類階段，由于其任務(wù)目標(biāo)與識別階段不同，而且還可以利用識別階段所得到的結(jié)果，因此采用了不同于識別階段的特征。表2列出了分步標(biāo)注法下分類階段的基線特征集合。

表2 分步標(biāo)注法分類階段基線特征集合

3.3 語義角色標(biāo)注中的新特征

3.3.1 動詞語素特征在角色標(biāo)注中的運(yùn)用

動詞在語義角色標(biāo)注過程中起著重要的作用，構(gòu)成動詞的語素類型也是多樣的，比如中心語素，狀語語素，補(bǔ)語語素，賓語語素等。賓語語素是動詞中心語素的支配對象，如“打字”中的“字”。補(bǔ)語語素是對動詞中心詞素起補(bǔ)充說明作用的成分，如“超過”中的“過”。狀語語素是修飾限定動詞中心語素的成分，如“不夠”中的“不”。在語義角色標(biāo)注中，如果充分利用動詞的這些語素特征，則可以更好地發(fā)揮動詞對于句子中論元數(shù)量以及搭配特征的暗示作用，為角色標(biāo)注提供更多依據(jù)。例如，如果在語義角色標(biāo)注時知道“理發(fā)”中“理”是動詞中心語素，“發(fā)”是“理”的賓語語素，作為“理”的受事，則已經(jīng)在很大程度上暗示了“理發(fā)”所在的句子中不會有其他的受事。

因此，對于每個動詞，在語義角色標(biāo)注中希望獲得該動詞的中心語素和附加語素作為特征。本文采用了一種基于語素集的方法來獲得目標(biāo)動詞的中心語素以及附加語素(狀語語素、補(bǔ)語語素、賓語語素之一)。

通過對語料的觀察，本文事先歸納了一些出現(xiàn)頻率較高的語素，分別構(gòu)成狀語語素集(A)，賓語語素集(O)和補(bǔ)語語素集(C)。其中狀語語素集中的語素一般出現(xiàn)在狀語-動作結(jié)構(gòu)的動詞中，起修飾作用；賓語語素集中的語素一般出現(xiàn)在動作—賓語結(jié)構(gòu)中；補(bǔ)語語素集中的語素一般是動作—補(bǔ)語結(jié)構(gòu)的補(bǔ)語部分。表3列出了訓(xùn)練語料里出現(xiàn)頻度較高的二字目標(biāo)動詞所包含的附加語素(括號中是語素出現(xiàn)的頻度，訓(xùn)練語料中兩字目標(biāo)動詞的頻度總計21 669，同一個動詞在不同句子中出現(xiàn)則頻度加一)。

表3 不同語素集合中的典型語素舉例

這種基于語素集獲得目標(biāo)動詞中心語素以及附加語素的方法具體而言，就是在角色標(biāo)注階段，根據(jù)每個目標(biāo)動詞的字?jǐn)?shù)，各個字的位置，字所屬的語素集合得到構(gòu)成這個動詞的語素類型。令W為輸入的目標(biāo)動詞W= C1…Cn，N代表其包含的字?jǐn)?shù)，輸出為中心語素h, 狀語語素a, 補(bǔ)語語素c以及賓語語素o，提取動詞語素的方法如下所示。

h=c=a=o=null

If N=4 and C1=C2and C3=C4then return Verb formation of W'= C1C3;

Else if N =3 and C2=C3then return h=C1, c= C2;

Else if N =2 and C1=C2then return h=C1;

Else if Cn∈C return h=C1..n-1,c= Cn

Else if Cn∈O return h= C1..n-1, o= Cn

Else if C1∈A return h= C2…Cn,a= C1

Else return h=C1;

當(dāng)要提取某個動詞的構(gòu)成語素時，需要判定動詞的首字和尾字所屬的語素集合，如果首字或尾字屬于某個附加語素集合，則令這個匹配到的字作為附加語素，剩下部分作為中心語素。例如對于“建成”，“成”出現(xiàn)在動詞的末尾，并且屬于補(bǔ)語語素集，因此“建成”的補(bǔ)語語素是“成”，中心語素是“建”。另外，由于并列結(jié)構(gòu)也是漢語動詞所常見的結(jié)構(gòu)形式(如“簽署”)，也就是說動詞的首字和尾字都沒有包含在附加語素集合中，此種情況下，本文按照2.2.2節(jié)中的處理方法，提取動詞的第一個字作為其中心語素，附加語素標(biāo)記為空“-”。 此外，由于動詞中所含的字?jǐn)?shù)不同，本文根據(jù)動詞構(gòu)詞上的特點(diǎn)，也進(jìn)行了針對性的處理。例如對于長度為3的詞語并且是疊詞，如第二個和第三個字相同，則可以認(rèn)為這個詞由中心語素與補(bǔ)語語素構(gòu)成。例如“笑哈哈”，可以分析得到中心語素是“笑”，補(bǔ)語語素是“哈”。

3.3.2 粗框架特征在角色標(biāo)注中的運(yùn)用

在完全句法分析中，從句法樹上提取的子類框架特征，即由動詞本身、動詞父親以及動詞兄弟組成的信息，由于其有效表示了論元之間句法配置關(guān)系，因此對于語義角色標(biāo)注是很重要的。在淺層句法分析中，由于沒有完全句法分析的句法層級信息，不能直接獲得子類框架。在基于淺層句法分析的語義角色標(biāo)注中，需要尋找一種特征可以盡量模擬子類框架所要描述的論元之間、論元和動詞之間的搭配信息。這種特征的有效性，可以從一個側(cè)面反映將語義角色標(biāo)注建立在淺層句法分析基礎(chǔ)上的可能性。我們發(fā)現(xiàn)在淺層句法分析結(jié)果中可以提取一種“粗框架”特征，即由識別階段所得的論元以及目標(biāo)動詞組成的序列。例如在句子“團(tuán)委召開會議”中，目標(biāo)動詞是“召開”，子類框架可以表示為VP—>VV、NP；當(dāng)候選目標(biāo)論元為“會議”時，粗框架為XP+VV+!XP，其中第一個XP表示“團(tuán)委”，VV表示“召開”，!XP表示“會議”。這樣的信息本質(zhì)上已經(jīng)反映了子類框架所要描述的論元之間、論元和動詞之間的搭配信息，因此可以較好地逼近子類框架特征，后面的實驗結(jié)果也說明了這一點(diǎn)。

表4列出了角色標(biāo)注階段加入的新特征，具體包括語素類特征(中心語素和附加語素)以及“粗框架”類特征兩個方面。其中語素類特征被用到了直接標(biāo)注法、分步標(biāo)注法的識別和分類階段，粗框架類特征則被用到了分步標(biāo)注法的分類階段。

表4 角色標(biāo)注階段的新特征集合

4 實驗分析

4.1 實驗設(shè)置

4.1.1 數(shù)據(jù)

本文選擇CPB1.0和CTB5.0作為實驗的基本數(shù)據(jù)。這些數(shù)據(jù)被分為三部分： chtb_081—chtb_899作為訓(xùn)練集，chtb_041—chtb_080作為開發(fā)集，chtb_001—chtb_040以及chtb_900—chtb_931作為測試集。這樣的數(shù)據(jù)設(shè)置方法與Xue[3]相同。同時，本文采用conll-2005共享任務(wù)提供的srl-eval腳本從三個方面即準(zhǔn)確率、召回率和F值來對系統(tǒng)性能進(jìn)行評測。

4.1.2 分類器

在淺層句法分析、直接標(biāo)注法以及分步標(biāo)注法的識別階段，本文選用Tiny SVM以及YamCha軟件包(Kudo and Matsumoto[8-9])。參數(shù)設(shè)置為核函數(shù)d=2，采用配對(pair-wise)方法解決多分類問題。對于分步標(biāo)注法的分類階段，本文選用線性的SVM分類器SVMlin，采用一對多方法解決多分類問題。

4.2 淺層句法分析實驗結(jié)果

表5中第一行是實驗的基線結(jié)果,即采用Chen[7]所提到的特征時的實驗結(jié)果。第二行是加入“偽中心語素”特征之后的測試結(jié)果，從而證明了詞語的語素信息對于淺層句法分析的積極意義。這樣的效果已經(jīng)與目前在英文上基于組塊的句法分析的最好系統(tǒng)效果(F=0.94)相當(dāng)。雖然由于語言種類不同，組塊的定義方法不同，測試集合上的數(shù)據(jù)量不同等，單純的數(shù)值比較并不十分公平，但這樣的結(jié)果已經(jīng)說明了系統(tǒng)所采用的基于組塊的淺層句法分析方法的有效性。

表5 淺層句法分析過程中的性能比較

表6 名詞短語和動詞短語的句法分析評測結(jié)果

在漢語中存在著大量的名詞短語和動詞短語，表6列出了系統(tǒng)在這兩種類型短語組塊上的測試結(jié)果。結(jié)果表明，語素特征對于名詞短語的標(biāo)注任務(wù)會更有幫助，而對于動詞短語的標(biāo)注所起到的促進(jìn)作用不是很明顯。其中部分原因可能是因為許多標(biāo)注錯誤是由于動詞短語對句子中其他成分的長依賴關(guān)系造成的，這種情況下作為局部特征的語素特征的加入對于標(biāo)注很難起到有效的促進(jìn)作用。比如有以下兩個句子：

[VP因此獲得勝利]

[ADVP因此][VP大量出現(xiàn)]的是以前不曾遇到的

這兩個句子中“因此”的上下文是相似的，而在第二句話中只有分類器知道“因此”后面是一個從句才能正確地標(biāo)注出“因此”的短語標(biāo)志“ADVP”,這樣的信息是語素特征所沒能提供的，因此加入語素特征后對于正確識別出“因此”的句法功能沒能起到明顯的作用。

4.3 直接標(biāo)注法實驗結(jié)果

表7列出了在加入目標(biāo)動詞語素類特征前后直接標(biāo)注策略下系統(tǒng)的性能變化?？梢园l(fā)現(xiàn)，語素類特征對于系統(tǒng)性能的提高主要表現(xiàn)在召回率上，這也再次驗證了語素特征在緩解數(shù)據(jù)稀疏問題上的作用。

表7 直接標(biāo)注法中語素類特征對系統(tǒng)性能的影響

4.4 分步標(biāo)注法實驗結(jié)果

表8列出了在加入粗框架類和語素類特征前后分步標(biāo)注策略下系統(tǒng)準(zhǔn)確率的變化。可以發(fā)現(xiàn)，新特征的加入使標(biāo)注效果無論在開發(fā)集上還是在測試集上都得到了提高。粗框架類特征有利于更有效地利用識別階段的標(biāo)注結(jié)果，由于其提供了一種句子整體結(jié)構(gòu)上的信息，因此使標(biāo)注效果得到了明顯的提高。

表8 分類階段粗框架類和語素類特征對系統(tǒng)性能的影響

4.5 實驗總結(jié)

表9列出了兩種不同策略下的角色標(biāo)注系統(tǒng)以及現(xiàn)有最好的基于自動句法分析的角色標(biāo)注系統(tǒng)的性能?？梢钥闯觯瑹o論是直接標(biāo)注法還是分步標(biāo)注法，得到的標(biāo)注效果都優(yōu)于現(xiàn)有的基于自動句法分析的最好角色標(biāo)注系統(tǒng)， 這就驗證了基于淺層句法分析的語義角色標(biāo)注系統(tǒng)的有效性。

表9 角色標(biāo)注實驗結(jié)果

觀察可以發(fā)現(xiàn)，兩種不同的標(biāo)注策略在F值上并沒有太大差別。相比而言，直接標(biāo)注法取得了更高的精確率，分步標(biāo)注法則有更高的召回率。這可能是因為分步標(biāo)注法的識別階段可以更有效地區(qū)別論元和非論元，因而識別出了更多的論元，提高了召回率。表中第一行是Xue[3]在完全句法分析基礎(chǔ)上角色標(biāo)注的實驗結(jié)果。比較可以發(fā)現(xiàn)這個結(jié)果在精確率上有很好的表現(xiàn)，這可能是因為其充分利用了句法樹上各個句法成分之間的關(guān)系，得到了對角色分類更加有效的特征，因而可以更加準(zhǔn)確地分辨角色類型。

5 結(jié)束語

本文搭建了一個基于淺層句法分析的中文語義角色標(biāo)注系統(tǒng)，比現(xiàn)有最好的基于自動完全句法分析的語義角色標(biāo)注系統(tǒng)的性能(0.71)[3]有了明顯提高。具體而言，本文首先構(gòu)造了一個擁有較高性能的句法分析器，在此階段根據(jù)漢語自身特點(diǎn)尤其是構(gòu)詞法，提取了名詞和動詞的偽中心語素特征來緩解數(shù)據(jù)稀疏問題；在語義角色標(biāo)注過程中，提取了目標(biāo)動詞語素特征和粗框架等，有效描述了句子中論元之間以及論元與動詞之間的搭配關(guān)系。實驗結(jié)果表明，基于淺層句法分析的角色標(biāo)注方法為中文語義角色標(biāo)注提供了一種新的解決思路，同時本文所提取的語素特征以及粗框架等對于提高整個語義角色標(biāo)注系統(tǒng)的性能起到了很好的促進(jìn)作用。

[1] Sun, Honglin, Daniel Jurafsky. Sha1low Semantic Parsing of Chinese[C]//Proceedings of the Human Language Techno1ogy Conference 0f the North American Chapter of the Associati0n for Computational Linguistics.Bnston. USA: 2004.

[2] Nianwen Xue and Martha Palmer. Automatic semantic role labeling for Chinese verbs[C]//Proceedings of the 19th International Joint Conference on Artificial Intelligence, 2005.

[3] Nianwen Xue. Labeling Chinese Predicates with Semantic roles [J]. Computational Linguistics, 2008,34(2):225-255.

[4] Sameer S. Pradhan, Wayne Ward, and James H. Martin. Towards robust semantic role labeling[J]. Comput. Linguist. 2008,34(2):289-310.

[5] Mihai Surdeanu, Lluís Mrquez, Xavier Carreras, and Pere Comas. Combination strategies for semantic role labeling. J. Artif. Intell. Res. (JAIR)[J]. 2007,29:105-151.

[6] 于江德,樊孝忠,龐文博,余正濤. 基于條件隨機(jī)場的語義角色標(biāo)注[J]. 東南大學(xué)學(xué)報, 2007, 23(3):361-364.

[7] Wenliang Chen, Yujie Zhang, and Hitoshi Isahara. An empirical study of chinese chunking[C]//Proceedings of the COLING/ACL 2006 Main Conference Poster Sessions. Sydney, Australia:2006: 97-104.

[8] Taku Kudo and Yuji Matsumoto. Use of support vector learning for chunk identification[C] //Proceedings of the 2nd workshop on Learning language in logic and the 4th conference on Computational natural language learning. Morristown, NJ, USA.:2000: 142-144.

[9] Taku Kudo and Yuji Matsumoto.Chunking with support vector machines. [C]//NAACL ’01: Second meeting of the North American Chapter of the Association for Computational Linguistics on Language technologies 2001, Morristown, NJ, USA:2001:1-8.

[10] 劉懷軍，車萬翔，劉挺.中文語義角色標(biāo)注的特征工程[J].中文信息學(xué)報, 2007,21(1):79-84.