• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      基于規(guī)則的維吾爾語命名實(shí)體識別研究

      2015-09-19 09:47:13于光磊徐毅馬明達(dá)俞珍珍米克然阿依·艾爾肯
      中國科技縱橫 2015年15期
      關(guān)鍵詞:特征詞

      于光磊 徐毅 馬明達(dá) 俞珍珍 米克然阿依·艾爾肯

      【摘 要】命名實(shí)體(Named Entity, NE)是指文本中承載著人名、地名、組織機(jī)構(gòu)名等重要信息的詞語。命名實(shí)體識別(Named Entity Recognition, NER)是指在正確理解文本意義的基礎(chǔ)上,對文本中的命名實(shí)體進(jìn)行識別,并按照其類型進(jìn)行歸類。本次主要是基于對維吾爾語中的人名、地名進(jìn)行研究,通過此次的研究,能夠使更多的人了解到維吾爾語,同時(shí)對了解維吾爾族人民的文化也起到積極的作用。維吾爾族語言中的人名、地名等都有相關(guān)的特征詞,通過特征詞能夠迅速而有效的找出文本中的人名、地名等信息,所以此次研究的方法主要依據(jù)基于規(guī)則的方法。

      【關(guān)鍵詞】命名實(shí)體 命名實(shí)體識別 特征詞

      1 引言

      從研究范圍方面來說,早期的命名實(shí)體識別研究主要集中在西方國家,以研究英文為主。1995年后學(xué)者開始了對中文、德文、日文等語言的研究。中國在中文命名實(shí)體識別研究上取得了較好成績,并且展開了對少數(shù)民族語言如維語、蒙語等語言的命名實(shí)體的研究。

      本次的研究目的在于通過該軟件對我國少數(shù)名族中的維語能夠起到一個(gè)推動的作用,使更多的人能夠了解維語,同時(shí)在閱讀維語文章中能夠快速找到該文章的人名,地名,組織機(jī)構(gòu)等重要信息,對閱讀者起到一個(gè)非常重要的幫助。

      2系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)

      2.1系統(tǒng)設(shè)計(jì)功能及實(shí)現(xiàn)原理

      命名實(shí)體識別過程中,通過信息檢索,在一篇文章中能夠快速找到有用的信息。此次研究,主要針對數(shù)字,人名,地名等信息,由此,該系統(tǒng)的設(shè)計(jì)功能主要分為以下七大模塊:

      (1)分詞功能:通過分詞功能,把讀取的文本數(shù)據(jù)進(jìn)行分詞,方便取詞和查找人名地名時(shí)進(jìn)行詞與詞之間的比對。

      (2)數(shù)字識別:通過程序的控制,對數(shù)字進(jìn)行直接的判斷,從而找出文本信息中出現(xiàn)的數(shù)字以及數(shù)字出現(xiàn)的位置;

      (3)人名識別:在維語命名中,人們習(xí)慣把名字命名為具有一定寓意的詞語。因此,在人名中,我們提前建立一個(gè)人名數(shù)據(jù)詞庫,通過查找那些具有一定寓意的詞語,把它們總結(jié)起來進(jìn)行錄入,然后通過分詞功能把文章中的每個(gè)詞語進(jìn)行讀取和比對,再加上句子的語法構(gòu)成結(jié)構(gòu),從而判斷該詞是否屬于人名,如果文章中出現(xiàn)過的人名不在數(shù)據(jù)庫中,那么我們需要手動錄入該詞,使該詞保存到數(shù)據(jù)庫中,以便在下次使用中出現(xiàn)該詞語時(shí)會自動識別為人名。

      (4)地名識別:地名識別的方法類似于人名的識別方法,不同的是,地名的詞語組成種類比較多,可分為以下四種:①單個(gè)詞語組成地名;②由地名首詞語+規(guī)則詞共同組成地名;③由地名首詞語+中間詞+規(guī)則詞共同組成地名;④多個(gè)連續(xù)地名組成一個(gè)特定地名;

      通過程序的判斷,得出該詞屬于哪一種地名構(gòu)成的結(jié)構(gòu),從而得出一個(gè)較為完整和準(zhǔn)確的地名。

      (5)詞語添加:在使用的期間,用戶會發(fā)現(xiàn)有的人名或是地名在數(shù)據(jù)庫中沒有存在,那么為了下次使用時(shí)能夠判斷該詞屬于人名或是地名,我們需要手動的進(jìn)行錄入,因此該軟件系統(tǒng)具有添加信息的功能。

      (6)文本讀?。涸谌绱硕嗟奈谋靖袷街?,需要對多種文本格式的支持,例如.txt,.doc等;

      (7)編輯功能:編輯為文本提供常見的文本編輯功能,例如字號、顏色的設(shè)置、查找、選擇、導(dǎo)入/導(dǎo)出等功能。

      2.2系統(tǒng)技術(shù)支持

      后臺技術(shù):通過Java語言的控制與判斷,實(shí)現(xiàn)對文本的讀取,同時(shí)找出文本中的所要的信息,包括數(shù)字、人名、地名等。

      前臺技術(shù):通過Java中的Swing組件與AWT組件,完成對前臺可視化的編輯,從而有一個(gè)更好的用戶體驗(yàn)。

      數(shù)據(jù)庫技術(shù):MySql數(shù)據(jù)庫是一個(gè)小型的,用戶數(shù)量最多、最廣的數(shù)據(jù)庫,因此,此系統(tǒng)通過MySql數(shù)據(jù)庫進(jìn)行數(shù)據(jù)存儲,同時(shí)還能夠方便、快捷的對數(shù)據(jù)進(jìn)行操作。

      3系統(tǒng)識別結(jié)果與分析

      對系統(tǒng)的識別性能評估,我們用:準(zhǔn)確率(P),召回率(R),綜合指標(biāo)(F)值3個(gè)評測指標(biāo),其識別結(jié)果如表1,表2所示。

      通過數(shù)據(jù)可以看出,我們這次完成的軟件系統(tǒng)對維語識別的正確率是很高的,但是還有好多的沒有識別出來,原因是數(shù)據(jù)庫中所存儲的人名、地名有限,我們不能完完整整的把所有數(shù)據(jù)都保存在數(shù)據(jù)庫中,只能通過后期的不斷應(yīng)用,不斷的添加數(shù)據(jù),完善自己的數(shù)據(jù)。對于這些問題,我們今后會對其改進(jìn),使正確率更高,更能有效地幫助人們在閱讀維語文章中找到有用的信息。

      4 結(jié)語

      通過此次實(shí)驗(yàn)研究,我們不但完成了軟件系統(tǒng)的功能實(shí)現(xiàn),還對維吾爾語的語言特點(diǎn)以及人名、地名構(gòu)成規(guī)則進(jìn)行了深入研究,總結(jié)出維語人名、地名中的規(guī)則。與此同時(shí),我們還建立了維語人名詞典庫和地名詞典庫,通過詞典庫中的信息,能夠在使用軟件時(shí),快速而有效地找出文本中存在的人名、地名。

      參考文獻(xiàn):

      [1] 劉群.機(jī)器翻譯研究新進(jìn)展[J].當(dāng)代語言學(xué),2009,02:147-158+190.

      [2] 鄧尚民,孫玉偉.信息抽取系統(tǒng)的研究現(xiàn)狀[J].現(xiàn)代圖書情報(bào)術(shù),2006

      [3] 張小衡,王玲玲.中文機(jī)構(gòu)名稱的識別與分析[J].中文信息學(xué)報(bào),1997

      [4] Dimitra Farmakiotou, Vangelis Karkaletsis, et al. Rule-based named entity recognition for Greek financial texts[C]//Proc. of the Workshop on Computational lexicography and Multimedia Dictionaries (COMLEX 2000). 2000: 75-78.

      猜你喜歡
      特征詞
      基于Simhash改進(jìn)的文本去重算法
      基于類信息的TF-IDF權(quán)重分析與改進(jìn)①
      基于改進(jìn)的TF-IDF和貝葉斯算法的新聞分類
      一種面向財(cái)務(wù)文本分類的TF-IDF改進(jìn)算法
      基于改進(jìn)TFIDF算法的郵件分類技術(shù)
      OPEN:一個(gè)基于評論的商品特征抽取及情感分析框架
      基于Word2vec的文檔分類方法①
      產(chǎn)品評論文本中特征詞提取及其關(guān)聯(lián)模型構(gòu)建與應(yīng)用
      面向文本分類的特征詞選取方法研究與改進(jìn)
      方言特征詞理論與研究方法綜述
      安西县| 宜昌市| 陇南市| 长乐市| 阿克| 瑞金市| 榆社县| 托克逊县| 萍乡市| 平湖市| 盐城市| 明溪县| 顺昌县| 永泰县| 延川县| 灵武市| 高碑店市| 桃园市| 南宫市| 左贡县| 革吉县| 黄大仙区| 乐亭县| 平昌县| 黎平县| 金堂县| 登封市| 湾仔区| 曲松县| 浏阳市| 关岭| 仁怀市| 宁陵县| 内丘县| 夏邑县| 象州县| 河津市| 张家界市| 邯郸市| 探索| 临海市|