文本摘要涉及減少文本中的單詞數(shù)量,同時(shí)保持其意義。它提高了效率,減少了閱讀多篇文章的時(shí)間。本文我們將演示如何使用Python實(shí)現(xiàn)文本摘要自動(dòng)化。
閱讀文章中的所有文字并提取摘要是一項(xiàng)耗時(shí)而乏味的工作。幸運(yùn)的是,我們可以使用NLP模型自動(dòng)生成文本摘要。而且越來越多的媒體平臺(tái)使用NLP進(jìn)行文本摘要生成。本文我們將演示如何使用Python對(duì)文章進(jìn)行總結(jié)。
什么是文本摘要?
本質(zhì)上,任務(wù)是將文本作為輸入并輸出其摘要。關(guān)鍵是確保輸入文本的整體含義保留在摘要文本中。
有兩種關(guān)于文本總結(jié)的技術(shù)。其中一種技術(shù)稱為提取文本摘要技術(shù)。它涉及從文本中提取最重要的單詞。另一種技術(shù)稱為抽象摘要,涉及使用已知的學(xué)習(xí)詞匯來解釋輸入文本。
在本文中,我將專注于提取摘要技術(shù)。
獲取文本
幾乎所有主要機(jī)構(gòu)都在利用自然處理語言(NLP)模型來總結(jié)文本。例如,我們可以在社交媒體平臺(tái)上找到對(duì)一家公司的數(shù)千甚至數(shù)百萬條評(píng)論。使用文本摘要器可以實(shí)現(xiàn)對(duì)某個(gè)主題的公正看法。文本摘要的一種方法可以像刪除不重要的單詞一樣直接,對(duì)每個(gè)單詞進(jìn)行評(píng)分并只保留包含最重要單詞的句子。
詳細(xì)來說,Twitter是最大的微博社交媒體平臺(tái)之一。我們可以嘗試獲取一段時(shí)間內(nèi)關(guān)于某個(gè)主題的所有推文,并將它們與來自Google的新聞文章結(jié)合起來。這可能會(huì)為我們提供對(duì)某個(gè)主題的公正看法。
一旦組合文本準(zhǔn)備就緒,我們就可以使用文本摘要器為我們總結(jié)文本。我們可以在去除文本中的噪聲后對(duì)每個(gè)單詞進(jìn)行排名,然后根據(jù)構(gòu)成句子的單詞的排名對(duì)每個(gè)句子進(jìn)行排名,最后取排名最高的句子。
如何總結(jié)文本摘要?
我們將專注于提取摘要技術(shù)。它涉及從文本中提取最重要的單詞。這意味著我們需要計(jì)算每個(gè)單詞的重要性分?jǐn)?shù)。有時(shí),數(shù)據(jù)可能包含大量噪聲。因此,我們的第一個(gè)目標(biāo)是刪除那些沒有增加價(jià)值的詞語。
關(guān)鍵是專注于關(guān)鍵信息并去除噪音。下面的代碼執(zhí)行以下關(guān)鍵步驟:
1.軟件包下載完成后,第一步就是通過執(zhí)行間歇處理、去掉標(biāo)點(diǎn)符號(hào)和停止文字來對(duì)文本進(jìn)行預(yù)處理。
2.計(jì)算機(jī)理解數(shù)字。我們需要將文本轉(zhuǎn)換為數(shù)字。下一步是根據(jù)每個(gè)單詞的頻率對(duì)其進(jìn)行評(píng)分或排名,然后對(duì)頻率分?jǐn)?shù)進(jìn)行歸一化。然后我們將創(chuàng)建一個(gè)map,其中map的鍵是單詞,值是分?jǐn)?shù)。
3.然后,通過將構(gòu)成句子的單個(gè)單詞的分?jǐn)?shù)相加,為每個(gè)句子賦予一個(gè)重要性分?jǐn)?shù)。
4.最后返回前3個(gè)句子來總結(jié)文本。
以上內(nèi)容為大家介紹了使用Python總結(jié)文本文章,希望對(duì)大家有所幫助,如果想要了解更多Python相關(guān)知識(shí),請(qǐng)關(guān)注IT培訓(xùn)機(jī)構(gòu):千鋒教育。http://gzshyw.cn/