分享一份小样本学习资料：国际数据挖掘与知识发现大会，简称 KDD，宾夕法尼亚州立大学的研究者做了关于小样本学习《Learning with Small Data》教程，涵盖迁移学习与元学习等最新内容，值得看！
欢迎关注作者同时订阅小样本学习专栏(FSL)，不定期更新学习资料以及个人见解。
摘要
在大数据时代，数据驱动方法已在各种应用中越来越流行，例如图像识别，交通信号控制，假新闻检测。这些数据驱动方法的优越性能取决于大规模的带标签的训练数据，而这些标签在实际应用中可能无法访问，即“小（带标签）的数据”挑战。例如，预测城市中的突发事件，检测新兴的虚假新闻以及预测罕见疾病状况的发展。在大多数情况下，人们最关心这些小数据案例，因此提高带有小标签数据的机器学习算法的学习效率已成为热门的研究主题。在本教程中，我们将回顾用于学习小型（标记）数据的趋势最先进的机器学习技术。这些技术从两个方面进行组织：（1）提供有关知识泛化，转移和共享的最新研究的全面综述，其中讨论了转移学习，多任务学习和元学习。特别是，我们将更加专注于元学习，这将提高模型的泛化能力，并且最近被证明是一种有效的方法。 （2）介绍尖端技术，这些技术专注于将领域知识整合到机器学习模型中。与基于模型的知识转移技术不同，在实际应用中，领域知识（例如物理定律）为我们提供了应对小数据挑战的新视角。具体而言，领域知识可用于优化学习策略和/或指导模型设计。在数据挖掘领域，我们认为以小数据学习是一个具有重要社会影响的趋势主题，它将吸引来自学术界和工业界的研究人员和从业人员。
Outline
- Introduction
- Part I: Auxiliary Task
- Transfer Learning
- Supervised transfer learning
- Unsupervised domain adaptation
- Multi-task learning
- Hard parameter sharing
- Soft parameter sharing
- Adapted parameter sharing
- Meta-learning
- Meta-learning algorithms
- Gradient-based meta-learning
- Metric-based meta-learning
- Meta-learning challenges
- Task heterogeneity
- Meta-overfitting
- Applications
- Part II: Domain Knowledge
- Loss function design
- Residual modelling
- Regularization
- Model initialization
- Model design
- Encoding intermediate domain variables
- Encoding other domain-specific prior knowledge
- Conclusion and Discussion
- Conclusion
- Q & A
全文的视频讲解链接如下：
KDD 2020 Tutorial - Learning with Small Data_哔哩哔哩 (゜-゜)つロ 干杯~-bilibiliwww.bilibili.com
全文116页ppt链接如下：
Learning with Small Datasites.psu.edu
防止上面链接无法下载，提供网盘下载链接，具体内容在下方展示：
KDD2020_tutorial.pptx
89.2M
·
百度网盘
