智客公社

标题: 机器学习数据集整理图像辨认自然言语处理自动驾驶数据集 [打印本页]

作者: 水芙蓉1987    时间: 2019-5-20 07:37
标题: 机器学习数据集整理图像辨认自然言语处理自动驾驶数据集
目前主流的大型数据集站点

目前仍在搜集当中,后期会更新补充,建议关注收藏,以防丢失。

[attach]142452[/attach]



其中包含了当前前沿研讨各个方向的数据集。
传送门:https://challenger.ai/datasets/


其中包含了用于各种义务,不同规模的真实数据集,而且有许多不同的格式。
传送门:https://www.kaggle.com/datasets


这里有许多不同范畴的数据集,比如公共交通、生态资源、卫星图像等等。
传送门:https://registry.opendata.aws/


这个数据库外面有100个数据集。来自加州大学信息与计算机迷信学院。
传送门:https://archive.ics.uci.edu/ml/datasets.html


2018年9月份,谷歌推出了这项服务,可以按称号搜索数据集。目的是搜集起来成千上万不同的数据集存储库。
传送门:https://toolbox.google.com/datasetsearch


2018年7月,微软推出“微软研讨开放数据”。涵盖计算机迷信、社会迷信、物理学、地理学、生物学、经济学等等多个学科范畴。
传送门:https://msropendata.com/


按照不同的主题对近600个数据集停止了分类,一共触及29个主题,比如生物学、经济学、教育学等等。
传送门:https://github.com/awesomedata/awesome-public-datasets


欧洲政府的数据集
传送门:https://data.europa.eu/euodp/data/dataset


(暂时无法运用)
传送门:https://www.data.gov/

传送门:http://www.stats.gov.cn/

按数据类型分类站点

图像辨认相关

面有各种用于计算机视觉研讨数据集,可以经过特定的主题去查找数据集,比如语义分割、图像字幕、图像生成等等。
传送门:https://www.visualdata.io/


带注释的大型图像数据集。
http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php


大家熟习的ImageNet,女神李飞飞参与创建,同名比赛影响整个计算机视觉界。
http://image-net.org/


场景了解与许多辅助义务(房间规划估计,显着性预测等)
http://lsun.cs.princeton.edu/2016/


异样也是知名计算机视觉数据集,同名比赛每年都被中国人屠榜。
http://mscoco.org/


100个不同的物体在360度旋转的每个角度成像。
http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php


非常详细的视觉知识库。
http://visualgenome.org/


在知识共享下的900万个图像网址集合“曾经注释了超过6000个类别的标签”。
https://research.googleblog.com/2016/09/introducing-open-images-dataset.html


13000张人脸标记图像,用于开发触及面部辨认的运用程序。
http://vis-www.cs.umass.edu/lfw/


20580张狗子的图片,包括120个不同种类。
http://vision.stanford.edu/aditya86/ImageNetDogs/


包含67个室内类别,15620个图像。
http://web.mit.edu/torralba/www/indoor.html

自然言语处理相关

EMNLP2018 上,由孙茂松教授指导的清华大学自然言语处理实验室发布了一个大规模精标注关系抽取数据集 FewRel。
https://thunlp.github.io/fewrel.html


具有自然、多跳成绩的问答数据集,具有支持理想的弱小监督,以完成更易于解释的问答系统。
https://hotpotqa.github.io/


来自安然高级管理层的电子邮件数据。
https://www.cs.cmu.edu/~./enron/


包含18年来亚马逊上的大约3500万条回复,数据包括产品和用户信息,评级和文本审核。
https://snap.stanford.edu/data/web-Amazon.html


Google Books中的一系列文字。
https://aws.amazon.com/datasets/google-books-ngrams/


搜集了来自blogger.com的681,288篇博文,每篇博文至少包含200个常用英语单词。
http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm


维基百科的全文,包含来自400多万篇文章的近19亿个单词,可以按段落、短语或段落本身的一部分停止搜索。
https://code.google.com/p/wiki-links/downloads/list


Gutenberg项目中带注释的电子书书单。
http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs


来自第36届加拿大议会记录的130万组文本。
http://www.isi.edu/natural-language/download/hansard/


来自问答节目Jeopardy的超过200,000个成绩的归档。
http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/


由5574条英文渣滓短信组成的数据集。
http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/


Yelp,就是美国的“大众点评”,这是他们发布的一个开放数据集,包含超过500万条回复。
https://www.yelp.com/dataset


一个大型渣滓邮件数据集,对渣滓邮件过滤非常有用。
https://archive.ics.uci.edu/ml/datasets/Spambase

问答系统

人工生成的机器阅读了解数据集,来自微软,2016
http://www.msmarco.org/


Maluuba 的机器了解数据集,2016
https://github.com/Maluuba/newsqa


超过 100,000 个成绩和其机器了解文本的数据集,由斯坦福大学推出,2016
https://rajpurkar.github.io/SQuAD-explorer/


一个特征丰富的理想性成绩回答数据集,来自 EMNLP 16 论文《On Generating Characteristic-rich Question Sets for QA Evaluation》,2016
https://github.com/ysu1989/GraphQuestions


一个常见故事的语料库和有关故事的总结性语句,来自美国罗切斯特大学,2016
http://cs.rochester.edu/nlp/rocstories/


大量运用记忆网络的简单问答数据,2015
http://suo.im/2eiX0O


一个开放成绩与回答的应战数据集,由微软推出,2015
http://suo.im/3aJVyp


用于训练机器停止阅读了解义务的数据集,2015
http://cs.nyu.edu/~kcho/DMQA/

对话系统

一个用于非结构化多回路对话系统研讨的大型数据集,2015
http://suo.im/2pbKCC


用于向面向目的的对话系统加入记忆的语料库,Maluuba,2016
http://datasets.maluuba.com/Frames

心情分析相关

一个稍老一点的数据集,用到了来自亚马逊的产品回复。
http://www.cs.jhu.edu/~mdredze/datasets/sentiment/


用于二元心情分类的数据集,不过也有点老、有点小,有大约25000个电影回复。
http://ai.stanford.edu/~amaas/data/sentiment/


带无情感注释的标准心情数据集。
http://nlp.stanford.edu/sentiment/code.html


一个盛行的数据集,它运用160,000条预先删除表情符号的推文。
http://help.sentiment140.com/for-students/


2015年2月美国航空公司的Twitter数据,分类为正面,负面和中性推文。
https://www.kaggle.com/crowdflower/twitter-airline-sentiment

自动驾驶

目前最大的自动驾驶数据集,包含超过100,000个视频,其中包括一天中不同时段和天气条件下超过1,100小时的驾驶体验。其中带注释的图像来自纽约和旧金山地区。
http://bdd-data.berkeley.edu/


度娘的大型数据集,定义了26种不同物体,如汽车、自行车、行人、建筑物、路灯等。
http://apolloscape.auto/


超过7小时的高速公路驾驶,细节包括汽车的速度、加速度、转向角和GPS坐标。
https://archive.org/details/comma-dataset


这个数据集来自牛津的机器人汽车,它于一年工夫内在英国牛津的同一条路上,反反复复跑了超过100次,捕捉了天气、交通和行人的不同组合,以及建筑和道路工程等长期变化。
http://robotcar-dataset.robots.ox.ac.uk/


一个大型数据集,记录50个不同城市的城市街景。
https://www.cityscapes-dataset.com/


此数据集对于自动驾驶车辆的感知和导航非常有用。不过,数据集严重倾向发达国家的道路。
http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset


来自比利时法兰德斯地区数以千计的实体交通标志的超过10000条注释。
http://www.vision.ee.ethz.ch/~timofter/traffic_signs/


在AgeLab搜集的1,000多小时多传感器驾驶数据集的样本。
http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/


UC圣迭戈智能和安全汽车实验室的数据集,包括交通标志、车辆检测、交通讯号灯和轨迹形式。
http://cvrr.ucsd.edu/LISA/datasets.html


用于深度学习的小型交通灯的数据集。
https://hci.iwr.uni-heidelberg.de/node/6132


巴黎的交通讯号灯数据集。
http://www.lara.prd.fr/benchmarks/trafficlightsrecognition


交通灯、行人和车道检测的数据集。
http://computing.wpi.edu/dataset.html

mlmemoirs:

https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279

参考相关内容

https://mp.weixin.qq.com/s/rTwtQH_hoFNd8o853Vk4NQ
作者: Kalon    时间: 2019-5-20 13:59

作者: apolo    时间: 2019-5-21 19:30
赞一个,赞一个
作者: 倩儿liang    时间: 2019-5-22 15:25
路过的帮顶




欢迎光临 智客公社 (http://bbs.cnaiplus.com/) Powered by Discuz! X3.4