定义

元数据(Metadata)是描述数据的数据,它提供了关于数据的信息,帮助用户理解和管理数据资源。元数据通常包括了数据的定义、格式、命名、版本、存储位置、访问权限等内容,帮助用户理解和管理数据资源。

元数据的类型

百度百科:
在国际上,元数据的标准研究一直非常活跃,并随着数据建模、Web 互联网、大数据等技术的发展同步发展。2019 年 ISO 发布的 ISO/IEC 19583-1:2019 Information technology - Concepts and usage of metadata Part 1: Metadata concepts 中规定,根据元数据的功能不同,主要可以将元数据分为结构元数据、描述性元数据和管理元数据 3 类。

  • 元数据可以根据不同的领域和功能进行分类:
  • 结构元数据描述数据集中不同部分之间的关系,通常用于支持机器处理。
  • 描述性元数据描述属性,如作者、主题和标题,有助于识别和发现信息资产。
  • 管理元数据描述数据资产的技术来源或血统,以及数据的使用方式,包括创建时间、文件大小和文件类型,但也包括使用权利、知识产权和使用期限等要素。

或者:

  • 技术元数据:提供有关数据格式和结构的信息,如数据模型、数据血统或访问权限。
  • 业务元数据:定义日常业务术语,如表和列的定义、业务规则、数据共享规则和数据质量规则。

元数据管理工具和技术

在进行元数据管理时,合适的工具和技术可以极大地提高效率和准确性。以下是几种常见的元数据管理工具和技术:

A. 元数据管理系统(MMS)

元数据管理系统(Metadata Management System,MMS)是一种专门用于管理和维护元数据的软件系统。MMS提供了一系列功能和工具,用于采集、存储、管理、查询和共享元数据信息,帮助用户更好地理解和利用数据资产。一些常见的MMS包括:

  1. Informatica Metadata Manager:Informatica Metadata Manager是一款领先的商业MMS,提供了全面的元数据管理功能,包括数据源扫描、元数据搜索、数据血统分析等。
  2. IBM InfoSphere Information Governance Catalog:IBM InfoSphere Information Governance Catalog是IBM公司推出的一款MMS,提供了全面的数据资产管理和元数据管理功能,支持多种数据源和环境。
  3. Collibra Data Governance Center:Collibra Data Governance Center是一款专注于数据治理和元数据管理的商业软件,提供了丰富的数据资产管理和元数据管理功能,支持数据治理流程和工作流管理。
B. 元数据注册表

元数据注册表是一种用于管理和记录元数据信息的中心化存储库。它通常采用数据库或文件系统来存储元数据信息,并提供了一系列的查询和管理功能,用于查找、浏览和编辑元数据信息。元数据注册表可以作为MMS的一部分,也可以作为独立的工具使用。一些常见的元数据注册表包括:

  1. Apache Atlas:Apache Atlas是一款开源的元数据管理和数据治理平台,提供了丰富的元数据注册表功能,支持大规模数据环境的元数据管理和数据治理。
  2. Apache Ambari:Apache Ambari是一款用于大数据环境管理的开源工具,其中包含了元数据注册表功能,用于记录和管理Hadoop集群中的元数据信息。
  3. ODPi Egeria:ODPi Egeria是一个开放的元数据和数据治理框架,提供了标准化的元数据注册表接口和模型,支持多种元数据存储和管理系统的集成和交互。
C. 自动化元数据采集工具

自动化元数据采集工具是一种用于自动收集和记录元数据信息的软件工具。它可以通过扫描数据源、分析数据结构和元数据标签等方式,自动采集和整理元数据信息,提高元数据采集的效率和准确性。一些常见的自动化元数据采集工具包括:

  1. Erwin Data Intelligence Suite:Erwin Data Intelligence Suite是一款商业数据智能工具,其中包含了自动化元数据采集功能,支持多种数据源和环境。
  2. IBM InfoSphere Information Analyzer:IBM InfoSphere Information Analyzer是IBM公司推出的一款数据质量和元数据分析工具,其中包含了自动化元数据采集功能,用于分析和评估数据资产的质量和价值。
  3. SAP PowerDesigner:SAP PowerDesigner是一款企业建模和数据管理工具,其中包含了自动化元数据采集功能,用于采集和整理企业数据资产的元数据信息。

通过使用这些元数据管理工具和技术,组织和管理者可以更好地理解和利用数据资产,提高数据管理的效率和质量,从而实现更好的业务价值和竞争优势。