作為創新載體的專利中隱藏著大量的技術和效應知識,實現基于效應的專利分類可以讓設計者通過閱讀不同領域中使用相同效應的專利,使其思維得到極大的延伸和拓展,為其創新提供幫助。目前基于效應的專利分類以概念圖匹配的方式為主,該方法存在容錯性差、實用性低的問題。近些年來,深度學習方法在文本分類上得到了廣泛應用。但是由于專利存在涉及領域廣,特征提取難等問題,導致深度學習模型在專利分類上效果不佳。對此,本文提出了一種主題化表達的概念及其獲取方法,并在其基礎上提出了融合主題化表達與注意力機制的深度學習模型(T-Bi GRU-ATT模型),該方法能夠將專利主題化表達與文本特征結合形成質量較高的專利特征用于專利分類。本文的主要工作及創新點如下:(1)提出了一種主題化表達的概念用于專利分類,并且基于主題化表達的概念提出了融合專業術語的專利主題化表達獲取方法。首先提出了一種專業術語的提取方法,然后構建了融合加權專業術語的主題模型對專利數據集進行主題提取,之后又提出了一種“效應-主題”共現網絡的概念用于獲取專利的主題化表達,解決了主題生成質量不高、模型實用性不佳的問題。(2)提出了一種融合主題化表達與注意力機制的深...

【文章頁數】：83 頁

【學位級別】：碩士

【部分圖文】：

圖1.1融合主題化表達的專利分類模型流程圖

專利分類模型（T-BiGRU-ATT模型），該模型能夠將專利的文本特征與主題化表達相結合用于專利分類。該模型針對現有深度學習方法語義信息丟失的問題，在專利文本編碼過程中通過使用BiGRU以及多頭注意力機制捕捉到專利文本中的長依賴關系，并對專利文本中的重要信息進行加權以獲取專利文本....

圖2.4GRU細胞結構圖

河北工業大學碩士學位論文-15-根據E步中得到的兩個變分參數,，求L,|,的極大值，估算模型參數和。將得到的參數帶入E步中，重復EM步驟。2.5深度學習相關技術2.5.1GRU模型門控循環神經網絡(GatedRecurrentUnit,GRU)[38]是一種基于長短期記憶神經網絡....

圖2.5BiGRU模型結構圖

融合主題化表達的專利分類方法研究-16-1（[,]）trttrWhx（2.11）1（[,]）tzttzWhx（2.12）1tanh（[,]）thttthWrhx（2.13）1（1）ttttthzhzh（2.14）()totyWh（2.15）2.5.2BiGRU模型雙向GRU模型（....

圖2.6自注意力機制框架圖

河北工業大學碩士學位論文-17-定義了三個變量V、K、Q。其中，V代表被注意到的數據向量；Q代表執行一次注意力計算時的查詢，來自于上一時刻的解碼器輸出；K代表用來與Q進行相似度計算時作為注意力機制選取的依據，一般K與V相對應。自注意力機制的框架如圖2.6所示。圖2.6自注意力機制....

本文編號：4053256