代码编织梦想

自然语言处理分析的最基本和初始步骤是关键词提取,在NLP中,我们有许多算法可以帮助我们提取文本数据的关键字。本文中,云朵君将和大家一起学习四种即简单又有效的方法,它们分别是 Rake、Yake、Keybert 和 Textrank。并将简单概述下每个方法的使用场景,然后使用附加示例将其应用于提取关键字。

本文关键字:关键字提取、关键短语提取、Python、NLP、TextRank、Rake、BERT

在我之前的文章中,我介绍了使用 Python 和 TFIDF 从文本中提取关键词,TFIDF 方法依赖于语料库统计来对提取的关键字进行加权,因此它的缺点之一是不能应用于单个文本。

为了说明每种关键字提取方法 (Rake、Yake、Keybert 和 Textrank) 的实现原理,将使用已发表的文章[1]的摘要以及主题指定的关键字,并通过检查哪些方法的提取的关键词与作者设置的关键词更接近,来检验每种方法。在关键词提取任务中,有显式关键词,即显式地出现在文本中;也有隐式关键词,即作者提到的关键词没有显式地出现在文本中,而是与文章的领域相关。

在上图展示的示例中,有文本标题和文章摘要,标准关键字(由作者在原始文章中定义)被标记为黄色。注意machine learning这个词并不明确,也没有在摘要中找到。虽然可以在文章的全文中提取,但这里为了简单起见,语料数据仅限于摘要。

技术提升

论文探讨、算法交流、求职内推、干货分享、解惑答疑,与2000+来自港大、北大、腾讯、科大讯飞、阿里等开发者互动学习。

项目源码、数据、技术交流提升,均可加交流群获取,群友已超过2000人,添加时最好的备注方式为:来源+兴趣方向,方便找到志同道合的朋友

方式①、添加微信号:mlc2060,备注:来自CSDN +研究方向
方式②、微信搜索公众号:机器学习社区,后台回复:加群

文本准备

标题通常与提供的文本相结合,因为标题包含有价值的信息,并且高度概括了文章的内容。因此,我们将文本和标题两个变量之间通过加上一个加号而简单地拼接。

title = "VECTORIZATION OF TEXT USING DATA MINING METHODS"  
text = "In the text mining tasks, textual representation should be not only efficient but also interpretable, as this enables an understanding of the operational logic underlying the data mining models. Traditional text vectorization methods such as TF-IDF and bag-of-words are effective and characterized by intuitive interpretability, but suffer from the «curse of dimensionality», and they are unable to capture the meanings of words. On the other hand, modern distributed methods effectively capture the hidden semantics, but they are computationally intensive, time-consuming, and uninterpretable. This article proposes a new text vectorization method called Bag of weighted Concepts BoWC that presents a document according to the concepts’ information it contains. The proposed method creates concepts by clustering word vectors (i.e. word embedding) then uses the frequencies of these concept clusters to represent document vectors. To enrich the resulted document representation, a new modified weighting function is proposed for weighting concepts based on statistics extracted from word embedding information. The generated vectors are characterized by interpretability, low dimensionality, high accuracy, and low computational costs when used in data mining tasks. The proposed method has been tested on five different benchmark datasets in two data mining tasks; document clustering and classification, and compared with several baselines, including Bag-of-words, TF-IDF, Averaged GloVe, Bag-of-Concepts, and VLAC. The results indicate that BoWC outperforms most baselines and gives 7% better accuracy on average"  
full_text = title +", "+ text   
print("The whole text to be usedn", full_text)  

现在开始使用今天的四个主角来提取关键字!

Yake

它是一种轻量级、无监督的自动关键词提取方法,它依赖于从单个文档中提取的统计文本特征来识别文本中最相关的关键词。该方法不需要针对特定的文档集进行训练,也不依赖于字典、文本大小、领域或语言。Yake 定义了一组五个特征来捕捉关键词特征,这些特征被启发式地组合起来,为每个关键词分配一个分数。分数越低,关键字越重要。你可以阅读原始论文[2],以及yake 的Python 包[3]关于它的信息。

特征提取主要考虑五个因素(去除停用词后)

大写term

(Casing)
大写字母的term(除了每句话的开头单词)的重要程度比那些小写字母的term重要程度要大。

其中, 表示该词的大写次数, 表示该词的缩写次数。

词的位置

(Word Position)
文本越开头的部分句子的重要程度比后面的句子重要程度要大。

其中 表示包含该词的所有句子在文档中的位置中位数。

词频

(Term Frequency)
一个词在文本中出现的频率越大,相对来说越重要,同时为了避免长文本词频越高的问题,会进行归一化操作。

其中,MeanTF是整个词的词频均值, 是标准差。

上下文关系

(Term Related to Context)
一个词与越多不相同的词共现,该词的重要程度越低。

其中 表示窗口size为 从左边滑动, 表示从右边滑动。 表示出现在固定窗口大小为 下,出现不同的词的个数。 表示所有词频的最大值。

词在句子中出现的频率

(Term Different Sentence)
一个词在越多句子中出现,相对更重要

其中 SF(t) 是包含词t tt的句子频率, 表示所有句子数量。
最后计算每个term的分值公式如下:

表示的是单词 的分值情况,其中 分值越小,表示的单词 越重要。

安装和使用

pip install git+https://github.com/LIAAD/yake   
import yake  

首先从 Yake 实例中调用 KeywordExtractor 构造函数,它接受多个参数,其中重要的是:要检索的单词数top,此处设置为 10。参数 lan:此处使用默认值en。可以传递停用词列表给参数 stopwords。然后将文本传递给 extract_keywords 函数,该函数将返回一个元组列表 (keyword: score)。关键字的长度范围为 1 到 3。

kw_extractor = yake.KeywordExtractor(top=10, stopwords=None)  
keywords = kw_extractor.extract_keywords(full_text)  
for kw, v in keywords:  
   print("Keyphrase: ",kw, ": score", v)  

从结果看有三个关键词与作者提供的词相同,分别是text mining, data miningtext vectorization methods。注意到Yake会区分大写字母,并对以大写字母开头的单词赋予更大的权重。

Rake

Rake 是 Rapid Automatic Keyword Extraction 的缩写,它是一种从单个文档中提取关键字的方法。实际上提取的是关键的短语(phrase),并且倾向于较长的短语,在英文中,关键词通常包括多个单词,但很少包含标点符号和停用词,例如and,the,of等,以及其他不包含语义信息的单词。

Rake算法首先使用标点符号(如半角的句号、问号、感叹号、逗号等)将一篇文档分成若干分句,然后对于每一个分句,使用停用词作为分隔符将分句分为若干短语,这些短语作为最终提取出的关键词的候选词。

每个短语可以再通过空格分为若干个单词,可以通过给每个单词赋予一个得分,通过累加得到每个短语的得分。Rake 通过分析单词的出现及其与文本中其他单词的兼容性(共现)来识别文本中的关键短语。最终定义的公式是:

即单词 的得分是该单词的度(是一个网络中的概念,每与一个单词共现在一个短语中,度就加1,考虑该单词本身)除以该单词的词频(该单词在该文档中出现的总次数)。

然后对于每个候选的关键短语,将其中每个单词的得分累加,并进行排序,RAKE将候选短语总数的前三分之一的认为是抽取出的关键词。

安装和使用

# $ git clone https://github.com/zelandiya/RAKE-tutorial  
# 要在python代码中导入rake:  
import rake   
import operator  
  
# 加载文本并对其应用rake:  
filepath = "keyword_extraction.txt"  
rake_object = rake.Rake(filepath)  
text = "Compatibility of systems of linear constraints over the set of natural numbers. Criteria of compatibility of a system of linear Diophantine equations, strict inequations, and nonstrict inequations are considered.Upper bounds for components of a minimal set of solutions and algorithms of construction of minimal generatingsets of solutions for all types of systems are given. These criteria and the corresponding algorithms for constructing a minimal supporting set of solutions can be used in solving all the considered types of systems and systems of mixed types."  
sample_file = open(“data/docs/fao_test/w2167e.txt”, ‘r’)  
text = sample_file.read()  
keywords = rake_object.run(text) print “Keywords:, keywords  

候选关键字

如上所述,我们知道RAKE通过使用停用词和短语分隔符解析文档,将包含主要内容的单词分类为候选关键字。这基本上是通过以下一些步骤来完成的,首先,文档文本被特定的单词分隔符分割成一个单词数组,其次,该数组再次被分割成一个在短语分隔符和停用单词位置的连续单词序列。最后,位于相同序列中的单词被分配到文本中的相同位置,并一起被视为候选关键字。

stopwordpattern = rake.build_stop_word_regex(filepath)  
phraseList = rake.generate_candidate_keywords(sentenceList, stopwordpattern)  

关键词得分

从文本数据中识别出所有候选关键字后,将生成单词共现图,该图计算每个候选关键字的分数,并定义为成员单词分数。借助该图,我们根据图中顶点的程度和频率评估了计算单词分数的几个指标。

keywordcandidates = rake.generate_candidate_keyword_scores(phraseList, wordscores)  

提取关键词

计算候选关键字得分后,将从文档中选择前T个候选关键字。T值是图中字数的三分之一。

totalKeywords = len(sortedKeywords)  
for keyword in sortedKeywords[0:(totalKeywords / 3)]:   
      print “Keyword:, keyword[0],, score:, keyword[1]  

另一个库

# pip install multi_rake  
from multi_rake import Rake  
rake = Rake()  
keywords = rake.apply(full_text)  
print(keywords[:10])  

TextRank

TextRank 是一种用于提取关键字和句子的无监督方法。它一个基于图的排序算法。其中每个节点都是一个单词,边表示单词之间的关系,这些关系是通过定义单词在预定大小的移动窗口内的共现而形成的。

该算法的灵感来自于 Google 用来对网站进行排名的 PageRank。它首先使用词性 (PoS) 对文本进行标记和注释。它只考虑单个单词。没有使用 n-gram,多词是后期重构的。

TextRank算法是利用局部词汇之间关系(共现窗口)对后续关键词进行排序,直接从文本本身抽取。其主要步骤如下:

  1. 把给定的文本T按照完整句子进行分割,即

  2. 对于每个句子,进行分词和词性标注处理,并过滤掉停用词,只保留指定词性的单词,如名词、动词、形容词,即 ,其中是保留后的候选关键词。

  3. 构建候选关键词图 ,其中V为节点集,由(2)生成的候选关键词组成,然后采用共现关系co-occurrence构造任两点之间的边,两个节点之间存在边仅当它们对应的词汇在长度为K的窗口中共现,K表示窗口大小,即最多共现K个单词。

  4. 根据上面公式,迭代传播各节点的权重,直至收敛。

  5. 对节点权重进行倒序排序,从而得到最重要的T个单词,作为候选关键词。

  6. 由(5)得到最重要的T个单词,在原始文本中进行标记,若形成相邻词组,则组合成多词关键词。例如,文本中有句子“Matlab code for plotting ambiguity function”,如果“Matlab”和“code”均属于候选关键词,则组合成“Matlab code”加入关键词序列。

安装及使用

要使用Textrank生成关键字,必须首先安装 summa 包,然后必须导入模块 keywords

pip install summa   
from summa import keywords  

之后,只需调用 keywords 函数并将要处理的文本传递给它。我们还将 scores 设置为 True 以打印出每个结果关键字的相关性。

TR_keywords = keywords.keywords(full_text, scores=True)   
print(TR_keywords[0:10])  

KeyBERT

KeyBERT[4]是一种简单易用的关键字提取算法,它利用 SBERT 嵌入从文档中生成与文档更相似的关键字和关键短语。首先,使用 sentences-BERT 模型生成文档embedding。然后为 N-gram 短语提取词的embedding。然后使用余弦相似度测量每个关键短语与文档的相似度。最后将最相似的词识别为最能描述整个文档并被视为关键字的词。

安装和使用

要使用 keybert 生成关键字,必须先安装 keybert 包,然后才能导入模块 keyBERT。

pip install keybert  
from keybert import KeyBERT  

然后创建一个接受一个参数的 keyBERT 实例,即 Sentences-Bert 模型。可以从以下来源[5]中选择想要的任何embedding模型。根据作者的说法,all-mpnet-base-v2模型是最好的。

kw_model = KeyBERT(model='all-mpnet-base-v2')  
它将像这样开始下载:  

下载 BERT 预训练模型

keywords = kw_model.extract_keywords(full_text,   
                                     keyphrase_ngram_range=(1, 3),   
                                     stop_words='english',   
                                     highlight=False,   
                                     top_n=10)   
  
keywords_list= list(dict(keywords).keys())   
print(keywords_list)  

考虑到大多数关键短语的长度在 1 到 2 之间,可以将 keyphrase_ngram_range 更改为 (1,2)。这次我们将 highlight 设置为 true。

写在最后

到这里我们已经一起学习了在提取关键字/关键短语领域使用的四种最棒的技术,并提供了简单代码实现。这四种方法各有千秋。并且每个都成功地提取了与作者指定的关键字相同或接近并与该领域相关的关键字。

若你有学到一点什么,记得 点赞 收藏 加关注 哦!

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/2201_75499313/article/details/128858676

提高电脑运行速度--关闭电脑无用服务-爱代码爱编程

电脑在不经过任何设置的情况下,后台会自动启动一些服务,有些服务我们是根本用不着的,选择关闭,可以适当提高电脑的运行速度 关闭方法: 右键我的电脑–>管理–>服务和应用程序–>服务–>鼠标

springboot 启动后打印_优雅停止 SpringBoot 服务,拒绝 kill -9 暴力停止!-爱代码爱编程

在使用 SpringBoot 的时候,都要涉及到服务的停止和启动,当我们停止服务的时候,很多时候大家都是kill -9 直接把程序进程杀掉,这样程序不会执行优雅的关闭。而且一些没有执行完的程序就会直接退出。 我们很多时候都需要安全的将服务停止,也就是把没有处理完的工作继续处理完成。比如停止一些依赖的服务,输出一些日志,发一些信号给其他的

netlogon启动后停止_停止按钮是常闭触点,梯形图也是闭点,为啥PLC中,用常开触点?...-爱代码爱编程

PLC是继电器电路的软体功能实现,但是它完全是软的东西,最终要落地驱动继电器,还是需要转换的,这个转换过程,往往会造成逻辑电平上的颠倒,所以常开可以变成常闭,常闭也可以变成常开,这个过程会引起一些初学者困惑,这时候需要回到电路的根本,找出电流的回路来判断,请关注:机电猫 停止状态需要常闭,不代表控制上一定是常闭按钮 大家都对急停开关的印象

本地计算机上的netlogon服务启动后停止_Netlogon(CVE20201472)讲解及复现-爱代码爱编程

摘要 2020年08月12日,Windows官方 发布了 NetLogon 特权提升漏洞 的风险通告,该漏洞编号为 CVE-2020-1472,漏洞等级:严重,漏洞评分:10分。 攻击者通过NetLogon(MS-NRPC),建立与域控间易受攻击的安全通道时,可利用此漏洞获取域管访问权限。成功利用此漏洞的攻击者可以在该网络中的设备上运

本地计算机上的netlogon服务启动后停止_微软NetLogon权限提升 CVE20201472 漏洞复现...-爱代码爱编程

文末原文链接可直达博客 简介 NetLogon 远程协议是一种在 Windows 域控上使用的 RPC 接口,被用于各种与用户和机器认证相关的任务。最常用于让用户使用 NTLM 协议登录服务器,也用于 NTP 响应认证以及更新计算机域密码微软MSRC于8月11日 发布了Netlogon 特权提升漏洞安全通告。此漏洞CVE编号CVE-2

本地计算机上的netlogon服务启动后停止_Windows Server 2019 存储迁移服务-爱代码爱编程

Windows Server 2019将于9月底正式GA发布,目前外国正在如火如荼的举办着Server 2019相关的技术会议,国内却不见微软中国推广自己的企业级产品,已经好几年了,实在可惜,曾经何时微软企业级产品 Windows Server, System Center,Sharepoint,Exchange,Hyper-V也在中国市场火过一时,但

netlogon启动后停止_【漏洞通报】微软NetLogon提权漏洞-爱代码爱编程

近日,奇安信CERT监测到国外安全厂商发布了NetLogon 权限提升漏洞(CVE-2020-1472)的详细技术分析文章和验证脚本。此漏洞是微软8月份发布安全公告披露的紧急漏洞,CVSS漏洞评分10分,漏洞利用后果严重,未经身份认证的攻击者可通过使用 Netlogon 远程协议(MS-NRPC)连接域控制器来利用此漏洞。成功利用此漏洞

netlogon 不能启动 某些服务在未由其他服务_选择服务注册于发现-Eureka(2019-09-28)...-爱代码爱编程

选择服务注册于发现-Eureka 前言 昨天将SSO的前期的准备工作(界面,后台业务逻辑)做完了,而接下来的就是与数据库进行交互,这里我并没有选择直接在SSO服务配置数据库信息与数据库进行交互,而是决定通过 SpringCloud与数据服务(再启动一个项目)进行交互。 这样的做的考虑是想SSO应用仅仅负责登录,保持职责单一,而数据库服

阿里云ECS无法开机解决方法及安全操作流程-爱代码爱编程

之前有一次阿里云ECS磁盘满了,连不上主机,后来点了重启就无法开机了,发工单给阿里云的工程师得到回复是这样的: 您的服务器系统在启动过程中会卡住,不能正常启动完成。 在系统启动时,设置用单用户模式可以正常进入系统,单用户模式进去,检查系统里边也没有发现异常,尝试把 /etc/rc3.d/ 下边开机启动的服务都取消了,重启服务器还是会卡在,目前没能