门户
图库
科技
数据
VR
区块链
学院
论坛
百科
导航
登录
注册
帮助
公社首页
中国人工智能社区
公社版块
公社群组
Group
升级会员
用户名
Email
自动登录
找回密码
密码
登录
立即注册
登录后你可以:
登录
首次使用?
点我去注册
搜索
搜索
本版
帖子
公社群组
用户
道具
勋章
任务
设置
我的收藏
退出
首页
›
智能技术
›
自然语言
›
收费资源列表:想学自然言语处理的打包带走! ...
1
2
/ 2 页
下一页
返回列表
收费资源列表:想学自然言语处理的打包带走!
[复制链接]
久久久久久久
2019-5-4 15:49:56
显示全部楼层
|
阅读模式
点击上方关注,All in AI中国
作者:Kimberly Cook
丰富的收费资源列表可以协助人们学习自然言语处理,其中包括文本分类、序列标注、机器翻译等的解释。
自然言语处理(NLP)是计算机系统了解人类言语的才能,是人工智能(AI)的子集。网上有多种资源可以协助你开发和学习自然言语处理方面的专业知识。
在这篇博文中,我们列出了为初学者和中级学习者提供的学习资源。
初学者的自然言语资源
初学者可以遵照两种方法,即传统机器学习和深度学习,末尾运用自然言语处理。这两种方法彼此非常不同。以下这是两种方法之间的区别。
(1)传统机器学习
传统的机器学习算法很复杂,通常不易了解。以下是一些资源,可协助你末尾运用机器学习来学习自然言语处理(NLP):
·Jurafsky和Martin的语音和言语处理是传统自然言语处理的广受好评的经典。可以在这里停止了解。
https://towardsdatascience.com/why-deep-learning-is-needed-over-traditional-machine-learning-1b6a99177063
·对于更适用的方法,你可以尝试运用Natural Language Toolkit
http://www.nltk.org/book/
(2)深度学习
深度学习是机器学习的一个子范畴,由于人工神经网络的引入,它远远优于传统的机器学习。初学者可以从采用这个资源末尾学习:
https://web.stanford.edu/~jurafsky/slp3/
•CS 224n:这是末尾运用深度学习停止自然言语处理的最佳课程。本课程由斯坦福大学提供,可在此处学习
http://web.stanford.edu/class/cs224n/。
•Yoav Golberg的收费和付费书籍是末尾深度学习自然言语处理的重要资源。可在此处访问收费版本,此处提供残缺版本。
https://www.amazon.com/Language-Processing-Synthesis-Lectures-Technologies/dp/1627052984
•一切算法的非常片面的描画可以在Jacob Einsenstein的GATECH NLP课程笔记中找到,该课程几乎触及一切自然言语处理(NLP)方法。你可以在此处访问GitHub上的注释。
https://github.com/jacobeisenstein/gt-nlp-class/blob/master/notes/eisenstein-nlp-notes.pdf
从业者的自然言语资源
假如你是实际数据迷信家,将需求三种类型的资源:
疾速入门指南/了解抢手和新趋向 特定成绩的方法调查 定期关注博客文章
疾速入门指南/了解抢手和新趋向
人们可以从Otter等人的深度学习自然言语处理调查末尾。可以在这里学习。
https://arxiv.org/abs/1807.10854
•Young等人的一份调查报告试图总结基于深度学习的自然言语处理的一切内容,并建议从业者末尾运用自然言语处理。可以在此处访问该论文。
https://arxiv.org/abs/1708.02709
•你可以参考本文来了解LSTM和循环神经网络(RNN)的基础知识,这些基础知识在自然言语处理中常常运用。LSTMs的另一个援用的调查文章就在这里可以学习:
这是一篇风趣的论文,用于了解RNN隐藏形状的工作原理。可以在这里访问。
我引荐以下两篇你能够没有阅读过的博文:
1. http://colah.github.io/posts/2015-08-Understanding-LSTMs
2. https://distill.pub/2016/augmented-rnns/
•卷积神经网络(Convents)可用于了解自然言语。经过阅读本文,你可以直观地了解Convent如何在自然言语处理(NLP)中工作。
https://arxiv.org/abs/1801.06287
•Bai等人在本文中强调了卷积神经网络(Convents)和循环神经网络(RNN)之间的比较。一切它的pytorch(在很大程度上,阅读深度学习代码不是用pytorch编写的)代码是开源的,就像让你感遭到哥斯拉v/s金刚或福特野马与雪佛兰卡玛洛之间的竞赛(假如你喜欢(ed)那种类型的东西),那么谁会赢!
特定成绩的方法调查
从业者需求的另一类资源是对这种类型成绩的回答:"我必须训练一个算法来做X,我能运用的最酷(也很容易获得)的东西是什么?"。
以下是你需求的内容:
文本分类
人们处理的第一个成绩是什么?次要是文本分类。文本分类可以是将文本分类为不同类别或检测文本中的心情/情感的方式。
我想强调一下这个ParallelDots博客中描画的关于情感分析的不同调查的简单阅读。虽然该调查是针对情感分析技术的,但它可以扩展到大多数文本分类成绩。
我们的(ParallelDots)调查技术略逊一筹,旨在引导你运用很好的资源来了解概念。我指出的Arxiv调查论文将非常具有技术性,需求你阅读其他重要论文以深化了解某个主题。建议的方法是运用我们的链接熟习主题并享用其乐趣,但是请务必阅读我们引荐的详尽指南。(Oakley'博士的课程讲的是关于分块的地方,在你深化学习之前,你首先尝试在这里和那里学习一些知识)。记住,除非你详细了解这些技术,否则很难在新的状况下运用概念。
https://www.coursera.org/learn/learning-how-to-learn
还有另一项关于情感分析算法的调查(由Linked大学和UIUC的人员停止)。
就像在图像中训练ImageNet分类的模型可以针对任何分类义务停止微调一样,在维基百科上训练用于言语建模的自然言语处理(NLP)模型如今可以在相对较大批的数据上传输学习文本分类。以下是来自OpenAI和Ruder的两篇论文,以及如何处理这些技术的引见。
1. https://arxiv.org/abs/1801.06146
2.https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf。
Fast.ai有一个更敌对的文档来在这里运用这些方法。
http://nlp.fast.ai/classification/2018/05/15/introducting-ulmfit.html
假如你要转移学习两个不同的义务(不是从Wikipedia言语建模义务转移),这里将提到运用Convents的技巧。
https://arxiv.org/abs/1801.06480
恕我直言,这种方法将渐渐触及一切其他分类方法(从视觉中发生的简单推断)。我们还发布了关于Zero Shot Text分类的工作,该分类在没有任何数据集培训的状况下获得了良好的准确性,并且正在开发下一代产品。我们构建了自定义文本分类API,通常称为自定义分类器,你可以在其中定义本人的类别。你可以在这里收费查看。
https://www.paralleldots.com/custom-classifier
序列标注
序列标注是一种标注具有不同属性的单词的义务。这些包括词性标注、命名实体辨认、关键字标注等。
我们在这里为这些义务的方法写了一篇风趣的回复。
https://blog.paralleldots.com/data-science/named-entity-recognition-milestone-models-papers-and-technologies/
往年COLING的研讨论文为这些成绩提供了一个很好的资源,它为训练序列标记算法提供了最佳指点。你可以在这里访问。
https://arxiv.org/abs/1806.04470
机器翻译
最近几天自然言语处理(NLP)最大的提高之一就是发现了可以将文本从一种言语翻译成另一种言语的算法。谷歌的系统是一个16层LSTM(它不需求dropout,由于他们有大量的数据可供训练),并提供最先进的翻译结果。
一些媒体对此停止了夸张的报道,宣称"Facebook公司将不得不放弃发明本人言语的人工智能"。以下是其中一些报道。
1.https://gadgets.ndtv.com/social-networking/news/facebook-shuts-ai-system-after-bots-create-own-language-1731309
2.https://www.forbes.com/sites/tonybradley/2017/07/31/facebook-ai-creates-its-own-language-in-creepy-preview-of-our-potential-future/#1d1ca041292c
有关机器翻译的详尽教程,请参阅Philip Koehn的研讨论文。并查看运用深度学习机器翻译(我们称之为NMT或神经机器翻译)的详细回复。
以下是我最喜欢的几篇论文:
•Google的这篇论文次要内容是如何在有大量资金和数据时端到端地处理成绩。
https://arxiv.org/abs/1609.08144
•Facebook的Convolutional NMT system((仅仅由于其很酷的卷积方法),其代码在这里作为库发布。
https://github.com/facebookresearch/fairseq
•http://marian-nmt.github.io/是C ++中疾速翻译的框架
•http://opennmt.net/使每个人都可以训练他们的NMT系统。
成绩答案
这将是下一个"机器翻译"。有许多不同类型的问答义务。从选项中停止选择,从段落或知识图中选择答案,并基于图像(也称为视觉成绩回答)回答成绩,并且存在不同的数据集以了解现有方法的形状。
•SQuAD数据集是一个回答数据集的成绩,用于测试算法阅读了解和回答成绩的才能。微软公司往年早些时分发表了一篇论文,宣称他们已达到人类级别的准确性。这篇论文可以在这里找到。另一个重要的算法(我觉得最酷)是Allen AI的BIDAF及其改进。
https://blogs.microsoft.com/ai/microsoft-creates-ai-can-read-document-answer-questions-well-person/
•另一组重要的算法是Visual Question Answering,它可以回答有关图像的成绩。Teney等人从VQA 2017应战的论文是一个很好的入门资源。
•可以运用Tra在大型文档中回答成绩(例如,Google精彩集锦在最后的几个结果中如何回答你的查询)
•在理想生活中,对大型文档(比如Google Highlights如何在前几个结果中回答查询)的提取式成绩回答可以运用传输学习(因此很少有注释)完成,如本文中所示。有一篇非常好的论文驳斥了成绩解答算法的"了解"一篇非常好的论文批判了对问答方法的"了解"。
释义、句子相似度或推理
比较句子的义务。自然言语处理(NLP)有三个不同的义务:句子相似性、复述检测和自然言语推理(NLI),每个都需求比上一个更多的语义了解。 MultiNLI及其子集Stanford NLI是NLI最著名的基准数据集,近年来成为研讨的焦点。还有MS释义语料库和Quora语料库用于释义检测,以及用于STS的SemEval数据集(语义文本相似性)。可在此处找到此范畴中高级模型的良好调查。运用NLI在临床范畴非常重要(可以了解正确的医疗程序,副作用和药物的交叉影响等)。假如你希望在特定域中运用该技术,那么在医学范畴运用NLI的这个教程是一个很好的参考。
这是我在这个范畴最喜欢的论文列表
•互相作用空间的自然言语推理(Natural Language Inference over Interaction Space)它突出了一种非常巧妙的方法,用于将DenseNet(卷积神经网络用于句子表示)。这是实习项目的结果,这使得它更酷!
•Omar Levy小组的研讨论文表明,即便是简单的算法也能完成义务。这是由于算法照旧没有学习"推理"。
•BiMPM是预测释义一个很好的模型。
•我们还有一项关于释义检测的新工作,它将句子网络运用于句子表示之上,并已在往年的AINL会议上被接受。
其他范畴
以下是一些更详细的调查文件,以获取有关你在制造自然言语处理(NLP)系统时能够遇到的其他义务的研讨信息。
•言语建模(LM-言语建模是学习言语的无监督表示的义务。这是经过预测给定前N个单词的句子的第(n+1)个单词来完成的。这些模型具有两个重要的实践用途,即自动完成,并且如上所述作为文本分类的转移学习的基础模型。假如你有兴味了解如何根据搜索历史自动完成手机/搜索引擎中的LSTM工作,你应该阅读。 •关系提取 - 关系提取是提取句子中存在的实体之间关系的义务。给定的句子"A与r to B相关",给出三元组(A,r,B)。这里有关于该范畴研讨工作的调查。这是一篇我发现非常风趣的研讨论文。它运用BIDAF停止零射击(zero-shot)关系提取(也就是说,它可以辨认甚至没有训练辨认的关系)。
•对话系统 - 随着聊天机器人革命的末尾,对话系统如今末尾盛行。许多人将对话系统作为意图检测、关键字检测、问答等模型的组合,而其别人则尝试端到端地对其停止建模。 JD.com团队对对话系统模型停止了详细调查。此外还有Parl.ai,这是Facebook AI的一个框架。
•文本摘要 - 文本摘要用于从文档中获取精简文本(段落/旧事文章等)。有两种方法可以做到这一点:提取和笼统摘要。虽然抽取式摘要从文章中提供了具有最高信息内容的句子(以及几十年来可用的内容),但笼统概括的目的是像人类一样编写摘要。Einstein AI的这一演示将笼统的总结带入主流研讨。
•自然言语生成(NLG) - 自然言语生成是计算机旨在以人类的方式编写的研讨。这能够是故事、诗歌、图像标题等。其中,目前的研讨曾经可以在图像标题上做得很好,其中LSTM和留意机制相结合,使得输入可用于理想生活中。
需求关注的博客
这是一个博客列表,我们激烈引荐给有兴味跟踪自然言语处理(NLP)研讨新内容的人。
•Einstein AI - https://einstein.ai/research
•Google AI blog - https://ai.googleblog.com/
•WildML - http://www.wildml.com/
•DistillPub - https://distill.pub/
•StudiPub - http://ruder.io/
假如你喜欢这篇文章,请关注我们的博客。我们在这里常常提出资源清单。https://www.paralleldots.com/text-analysis-apis
你还可以尝试基于自然言语处理的文本分析API。可以阅读有关应该了解的机器学习算法,以便成为数据迷信家。
https://blog.paralleldots.com/data-science/machine-learning/ten-machine-learning-algorithms-know-become-data-scientist/
你还可以在此处查看ParallelDots AI API的收费演示。
https://www.paralleldots.com/text-analysis-apis
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有帐号?
立即注册
x
回复
使用道具
举报
大神点评
17
从阳台泼下的水
2019-5-4 15:55:23
显示全部楼层
全是处理英文的吧
回复
使用道具
举报
cyokkk
2019-5-4 15:56:54
显示全部楼层
great
回复
使用道具
举报
樱木迷
2019-5-4 16:02:14
显示全部楼层
不错啊
回复
使用道具
举报
Mai丶Jordan
2019-5-4 16:05:26
显示全部楼层
分享了
回复
使用道具
举报
zzz861025
2019-5-4 16:14:53
显示全部楼层
分享了
回复
使用道具
举报
丿孤獨灬患者
2019-5-4 16:21:43
显示全部楼层
分享了
回复
使用道具
举报
英雄74师
2019-5-4 16:22:09
显示全部楼层
分享了
回复
使用道具
举报
gaozhzx
2019-5-4 16:25:40
显示全部楼层
分享了
回复
使用道具
举报
打喷嚏了
2019-5-4 16:26:16
显示全部楼层
分享了
回复
使用道具
举报
下一页 »
1
2
/ 2 页
下一页
发表新帖
回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
本版积分规则
发表回复
回帖后跳转到最后一页
久久久久久久
金牌会员
0
关注
0
粉丝
84
帖子
Ta的主页
发布
加好友
最近发表
智能家居概念6日主力净流入1.25亿元,格力电器、海尔智家居前
零洞智能家居系统及产品应用于广州南沙曜玥湾
机器人
通用机器人的梦想,大模型能否一臂之力?
超700台机器人在这里造车 穿越机视角一览超级工厂
不是针对谁!中国在册无人机126万架,这还是解放军看不上的!
公社版块
版块推荐
更多版块
智能穿戴
智能家居
机器人
无人驾驶
无人机
反馈吐槽
闲聊灌水
大话智能
大数据
图像识别
自然语言
数据挖掘
大话智能
数据挖掘
北大讲座
清华讲座
网贷观察
股市评论
区块链
闲聊灌水
反馈吐槽
站务通知
关注我们