- 相關(guān)推薦
自然語言檢索中的概念控制
自然語言檢索是信息檢索中的一個類型。隨著互聯(lián)網(wǎng)的普及和發(fā)展,信息檢索的最終用戶日趨擴大,自然語言檢索成為重要的發(fā)展趨勢。
目前,自然語言檢索系統(tǒng)采用的是模式匹配技術(shù)。所謂模式指的是關(guān)鍵詞或索引詞匯。模式匹配技術(shù)處理速度快,簡單易行,但也有缺點。自然語言檢索系統(tǒng)對同義詞、近義詞、多義詞和其他一些與其相關(guān)的詞語沒有進(jìn)行規(guī)范和統(tǒng)一,詞間缺乏有機的聯(lián)系。當(dāng)用戶提問的檢索概念具有多種表達(dá)形式時,采用單一的關(guān)鍵詞或自然語言索引詞匹配方式勢必會影響檢全率。自然語言檢索系統(tǒng)的選詞沒有嚴(yán)格限制,詞量過多過雜,這樣會影響檢準(zhǔn)率,并且會過多地占用磁盤的存儲空間,影響查詢匹配的速度。要想解決這些問題,必須對自然語言查詢做進(jìn)一步的處理,也就是進(jìn)行概念控制。
1 概念控制及其實現(xiàn)基礎(chǔ)
1.1 概念控制的目的
概念并不是孤立存在的,一個概念總是與其他概念之間存在著各種各樣的關(guān)系,如上下位關(guān)系、同義關(guān)系、反義關(guān)系等。關(guān)鍵詞也會出現(xiàn)一詞多義、一義多詞以及同一事物多種表述的情形。根據(jù)概念之間的相互聯(lián)系,在詞的概念含義層次上建立聯(lián)系,為檢索用戶提供相關(guān)的結(jié)果分析是概念控制的一個應(yīng)用前景。例如,“體育”這一概念根據(jù)上下立類的關(guān)系可以細(xì)分為足球、排球、奧運會、亞運會等,單純的字面匹配會漏檢甚至誤檢很多與之相關(guān)的信息。通過概念控制就可以將一個上位類的概念擴展為多個子概念。體育新聞的檢索就可以擴展為:體育新聞、球類(足球、籃球、排球)、田徑運動、體育賽事(奧運會、亞運會、世界杯)等概念,同時對那些具有下位概念的詞匯可以再次擴展,這樣就大大地提高了檢索效果!坝嬎銠C”和“電腦”是同一事物的不同表述,機械匹配的話就只能檢索到有關(guān)“計算機”或“電腦”的信息,采用概念控制的相關(guān)方法可以將這些相同概念的詞匯統(tǒng)一到檢索匹配中,這樣就擴大了檢索面,提高了檢全率。在自然語言檢索系統(tǒng)中進(jìn)行慨念控制,就是把信息檢索從目前的基于關(guān)鍵詞層面提高到基于知識(概念)層面,能夠從概念意義層次上來認(rèn)識和處理檢索用戶的請求,從而提高檢全率和檢準(zhǔn)率。
1.2 概念控制的主要方法
目前雖然沒有一個檢索系統(tǒng)可以完全實現(xiàn)理想狀態(tài)下的高層次的語義檢索,但有些自然語言檢索系統(tǒng)已經(jīng)采用概念控制查詢。主要的方法是利用知識體系建立概念間的關(guān)系進(jìn)行查詢擴展,深度匹配,優(yōu)化檢索效果。
概念控制的內(nèi)容包括:提問句概念語義塊的抽取,從提問句中切分出概念詞或詞組等語義單位;基于知識體系對抽取出的語義單元進(jìn)行概念擴展;概念的組配,將選擇出的各檢索單位基于知識體系的組織信息轉(zhuǎn)換成體現(xiàn)概念關(guān)系的邏輯表達(dá)式。
概念抽取不等同于分詞處理,其中包括普通概念的識別和人名、地名、事件名等專有名詞的識別,并進(jìn)行概念提取。對于普通的概念字串采用逆向最長匹配算法(或正向最長匹配算法),并綜合切割標(biāo)記等分詞手段切分就可以進(jìn)行概念抽取。對于詞典中未收錄的概念詞,可以采取基于句模、句子結(jié)構(gòu)分析、詞和詞組構(gòu)成規(guī)則、句內(nèi)結(jié)構(gòu)性標(biāo)志字、標(biāo)點符號等來進(jìn)行切分。除切割標(biāo)志外,已知的詞也可作切割標(biāo)記使用。
自然語言檢索系統(tǒng)的本質(zhì)是查詢滿足特定主題概念的文本,因此被檢索的內(nèi)容不是和提問句的字面匹配。對提問進(jìn)行分析后抽取出的主要是概念或概念的組合,需要進(jìn)行概念匹配,這就需要對檢索句中的詞進(jìn)行概念擴展,即考慮提問句中詞的同近義詞、上下位詞和關(guān)聯(lián)詞?梢酝ㄟ^知識體系保存同近義關(guān)系、上下位關(guān)系和其他關(guān)聯(lián)關(guān)系,當(dāng)處理用戶檢索需求時,通過查詢知識體系可對提問句中的詞按概念進(jìn)行擴展。如“我國今天的體育新聞”,可以通過知識體系對“體育”進(jìn)行擴展,查詢包括“籃球”、“賽車”、“奧運會”、“世界杯”等方面的內(nèi)容,“今天”一詞指檢索者進(jìn)行檢索時的日期,因此需通過規(guī)則將“今天”映射為檢索時的時間,將“我國”擴展為“我國”V“中國”V“中華人民共和國”(知識體系中可能只存在“中國”和“中華人民共和國”之間的同義關(guān)系,沒有“我國”這一詞條)。
概念組配,按其內(nèi)在邏輯關(guān)系,可分為限定組配和相交組配。限定組配將一個概念的內(nèi)涵增加到另一個概念的內(nèi)涵中,從而加深概念的內(nèi)涵,縮小或限定了概念的外延。相交組配將具有共同的屬概念、概念之間具有相交關(guān)系、外延部分重合的概念組合成一個新概念。在構(gòu)成查詢表達(dá)式時,基于知識體系的擴展詞和原詞間為“邏輯加”的關(guān)系。如“美麗”擴展為“美麗”V“漂亮”V……V“標(biāo)志”。提問句中語義塊間的關(guān)系通常為邏輯乘的關(guān)系。語義塊間的概念組配通常存在如下邏輯關(guān)系:(1)主謂結(jié)構(gòu),描述的是一種陳述與被陳述的關(guān)系。(2)偏正結(jié)構(gòu),描述的是一種修飾與被修飾的關(guān)系。(3)動賓結(jié)構(gòu),描述的是一種作用和被作用的關(guān)系。(4)并列結(jié)構(gòu),描述的是一種成分間的并列關(guān)系[1]。主謂結(jié)構(gòu)、偏正結(jié)構(gòu)和動賓結(jié)構(gòu)間為“邏輯乘”關(guān)系,并列結(jié)構(gòu)為“邏輯加”關(guān)系。但通過對檢索提問句進(jìn)行分析后發(fā)現(xiàn),部分并列結(jié)構(gòu)在用戶的檢索概念中為“邏輯乘”關(guān)系,于是采用通過句模分析和指示標(biāo)志來確定語義塊間的“邏輯乘”或“邏輯加”關(guān)系。提問句語義塊之間的“邏輯加”關(guān)系通常存在顯式指示標(biāo)志,如“或”等。分析傳統(tǒng)的主、謂、賓、定、狀、補六大成分與句型的關(guān)系,可以輔助獲取語義塊的邏輯關(guān)系。檢索提問句的語義概念和提問句的結(jié)構(gòu)緊密相關(guān)。需要分析謂語的性質(zhì)、句子的結(jié)構(gòu),如“把”字、“被”字句等。
概念控制的3項關(guān)鍵技術(shù)中,概念擴展和概念組配都離不開知識體系的支持,知識體系的好壞直接關(guān)系到檢索效果的優(yōu)劣。
1.3 概念控制系統(tǒng)
國內(nèi)外已有一些檢索系統(tǒng)在不同程度上實現(xiàn)了概念控制,代表系統(tǒng)有首信搜索引擎、孫悟空、UMLS等。下面以UMLS為例進(jìn)行介紹。
【自然語言檢索中的概念控制】相關(guān)文章:
淺述設(shè)立中公司的特征、存續(xù)時間及概念06-08
淺談重要性概念在審計中的運用04-22
淺談物流成本控制中的包裝管理的論文06-05
論概念設(shè)計05-28
法律的概念性06-08
淺談醫(yī)學(xué)史的概念04-25