本文主要汇总与​​人脸情感识别(Expression、AU、VA)​​相关的各种数据集。

本文包含:​​AFEW-VA​​、​​AFEW​​、​​SFEW​​、​​AffectNet​​、​​AffWild​​、​​AffWild2​​、​​RAF-DB​​、​​RAF-ML​​、​​RAF-AU​​、​​SEWA​​…

持续补充更新中…


对于​​CK​​​、​​CK+​​​、​​JAFFE​​​、​​fer2013​​​等经典的​​Expression​​分类数据集,这里就不再做过多介绍。

1. AFEW-VA

全名:​Acted Facial Expressions In The Wild Database for Valence and Arousal​

简介:


  • 该数据集从上映的电影中提取了​​600​​个具有挑战性的视频片段,对600个视频的每帧都进行了注释。
  • 标签 是 ​​VA​​​,即效价和唤醒的级别。还注释​​68​​个人脸关键点。

下载地址:​https://ibug.doc.ic.ac.uk/resources/afew-va-database/​

数据详情:


  • 数据集共​​12个压缩包​​​,达​​6.84GB​​。
  • 每个压缩包包含50个文件夹,表示有50个视频。每个文件夹内包含该视频的每帧图片,以及一个JSON文件。JSON文件包含该视频的相关注释。

人脸表情识别和人脸情感识别数据集汇总_人脸识别

发表论文:

  • Kossaifi J, Tzimiropoulos G, Todorovic S, et al. AFEW-VA database for valence and arousal estimation in-the-wild[J]. Image and Vision Computing, 2017, 65: 23-36.

2. AffectNet

简介:


  • ​AffectNet数据集​​ 是通过6种语言和1250个与情绪相关的关键字,在三大搜索引擎上,检索的超过100万张面部图像。
  • 标签 是 ​​VA​​​ 和七种离散的 ​​Expression​​ 。

下载地址:​http://mohammadmahoor.com/affectnet/​

数据详情:


  • 数据集分为两类:标签手动标注(Manually Annotated)和标签自动标注(Automatically Annotated)。
  • 总数据集达​​120GB​​​。其中手动标注的数据集共​​54.4GB​​​(如下图);自动标注的数据集共​​66.8GB​​。

人脸表情识别和人脸情感识别数据集汇总_情感分析_02

发表论文:

  • Ali Mollahosseini, Behzad Hasani, and Mohammad H. Mahoor, “AffectNet: A New Database for Facial Expression, Valence, and Arousal Computation in the Wild”, IEEE Transactions on Affective Computing, 2017.

3. AFEW | SFEW

全名:​Acted Facial Expressions In The Wild​​​ | ​​Static Facial Expressions in the Wild​

简介:


  • ​AFEW数据集​​​ 是从电影中提取的接近真实世界环境的动态时间面部表情数据语料库,其中包含​​1426​​​个​​AVI​​格式的视频片段。
  • 标签 是七种离散的​​Expression​​,即Anger、Disgust、Fear、Sadness、Happiness、Surprise和Neutral。此外还有人物的Pose、Age、Gender等标签,注释以xml格式存储。
  • ​SFEW数据集​​​ 是从 ​​AFEW数据集​​ 中抽取的含有表情的静态帧,表情标签、注释同AFEW。

下载地址:​https://cs.anu.edu.au/few/AFEW.html​

数据详情:

  • 敬请期待。

发表论文:

  • Dhall A, Goecke R, Lucey S, et al. Collecting large, richly annotated facial-expression databases from movies[J]. IEEE multimedia, 2012, 19(03): 34-41.

4. AffWild | AffWild2

简介:


  • ​AffWild数据集​​ 是在YouTube上检索的视频组成。该数据集已经被划分为train、validate和test,分别有527056、94223和135145帧。
  • ​AffWild2数据集​​​ 在 ​​AffWild​​ 的基础上,增加了260条视频,新增视频帧141.3万帧。一般使用的是二者的并集。
  • 其 ​​标签​​​ 是​​Expression​​​、​​AU​​​ 和 ​​VA​​ 。

下载地址:​https://ibug.doc.ic.ac.uk/resources/aff-wild2/​

数据详情:


  • 数据集包含:training、validation 和 test 的所有视频,共16GB。
  • 数据集包含:上述视频裁剪的图像,共18GB。
  • 数据集包含:上述视频裁剪、对齐后的图像,尺寸为112x112,共7GB。
  • 数据集包含:历届挑战赛的注释文件。

人脸表情识别和人脸情感识别数据集汇总_情感分析_03

发表论文:


  • Liu M, Kollias D. Aff-Wild Database and AffWildNet[J]. arXiv preprint arXiv:1910.05318, 2019.
  • Kollias D, Zafeiriou S. Aff-wild2: Extending the aff-wild database for affect recognition[J]. arXiv preprint arXiv:1811.07770, 2018.

5. RAF-DB | RAF-ML | RAF-AU

全名:


  • RAF-DB: ​​Real-world Affective Faces Database​
  • RAF-ML: ​​Real-world Affective Faces Multi Label​
  • RAF-AU: ​​Real-world Affective Faces Action Unit​

简介:


  • RAF-DB:由来自网络的 ​​29672​​​ 张多样化的面部图像组成。其主要标签是​​Expression​​,包含单标签(7类基本情绪)和双标签(12类符合情绪)。此外还有Gender、Race、Age等标签。
  • RAF-ML:由来自网络的 ​​4908​​​ 个具有混合表情的面部图像组成。其主要标签是​​Expression​​,是6个维度的表情向量。
  • RAF-AU:由来自网络的 ​​4601​​​ 个面部图像组成。其主要标签是36种 ​​AU​​ 。

下载地址:

数据详情:

  • RAF-DB:分为两部分:basic expression和compound expression,basic expression有15339 张图像,compound expression有3954 张图像。

人脸表情识别和人脸情感识别数据集汇总_人脸识别_04

  • RAF-ML:共 4908 张图像。

人脸表情识别和人脸情感识别数据集汇总_神经网络_05

  • RAF-AU:共 4601 张图像,其图像基本与RAF-ML类似,标签如下。

人脸表情识别和人脸情感识别数据集汇总_表情识别_06

发表论文:


  • Li S, Deng W, Du J P. Reliable crowdsourcing and deep locality-preserving learning for expression recognition in the wild[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2017: 2852-2861.
  • Li S, Deng W. Blended emotion in-the-wild: Multi-label facial expression recognition using crowdsourced annotations and deep locality feature learning[J]. International Journal of Computer Vision, 2019, 127(6): 884-906.
  • Yan W J, Li S, Que C, et al. RAF-AU Database: In-the-Wild Facial Expressions with Subjective Emotion Judgement and Objective AU Annotations[C]//Proceedings of the Asian Conference on Computer Vision. 2020.

6. SEWA

下载地址:​https://db.sewaproject.eu/​


未完待续…