壮实学数据技术07:元数据
hi,米娜桑,我是大家的怪力少女赵壮实!

又是一个美好的周六的早上,今天我们来聊聊——元数据!

元数据也是近两年才火热起来的产品岗位和概念,因为偏向于后侧,相比于数据分析、数据BI、用户分层、归因等酷炫的名词下,元数据就像一朵白莲花。

壮实学数据技术07:元数据

01 什么是元数据?

好吧,元数据为什么可以睥睨一切呢?因为它是“元”数据。

啥是“元数据”——metadata?

壮实见到这个词语,第一次流下了久别重逢的泪水,甚至有点想笑,莫非,元数据,是一位熟悉现代主义思潮的大佬起的名字?

壮实学数据技术07:元数据

好的,壮实先从人文视角解释一下什么叫做“元”。

元,依旧指的是原始、原初的意思。我们那元叙事、元数据、元小说给大家讲讲什么是“元”。

1.“元”+“叙事”=元叙事

对于叙事的完整解释,即对历史的意义、经历和知识的叙述

2.“元”+“数据”=元数据

有关于数据的数据

3.“元”+“小说”=元小说

元小说,作家自觉地暴露小说的虚构过程,产生间离效果,进而让接受者明白,小说就是虚构,不能把小说当作现实。这样,虚构在小说中也就获得了本体的意义。

好吧,简单来说,元就是这个东西原始的框架、元素。在现代主义大工业的背景下,人类一切进入了“秩序模式”,所以需要“元”。所以就有了万物“元”化。

是的,大家是不是最近还会听到一个词,叫做“元认知”。没什么神奇的,套用概念,元认识就是关于认知的认知,也许善友老师“第一性原理”和叫兽“时间的朋友”或许是“元认知”?

壮实学数据技术07:元数据

那元数据,我们就好理解了,就是“关于数据的数据”,有了元数据,它可以让我们的数据生产、使用更加秩序化。

数据生产,有的人会叫做“后台元数据”:指导数据清洗装载工作。

数据使用,有的人会分为“前端元数据” :描述性、帮助我们更加流畅的使用报表和查询工具。

对于元数据的分类,我们可以分为以下三类:

业务元数据 从业务层面描述元数据。

技术元数据 数据技术层面上的各种统计信息,包含数据类型、长度、血缘沿袭、数据剖析结果等。

处理过程元数据 ETL自身执行结果统计信息,如多少行被加载、多少行数据被丢弃以及数据加载时间等。

02 元数据核心理念和关键要素

话不多说,我们来上阿里云官方ppt:

好的,如果你们看不懂,壮实还画了一个图:

壮实学数据技术07:元数据

原来的数据生产-使用流程

壮实学数据技术07:元数据

涉及的相关的元数据

03 元数据产品

目前国内的元数据管理工具大概有三类。

一是像IBM、CA等公司都提供的专门工具,比如IBM收购Ascential得到的MetaStage,CA的DecisionBase;

二是像DAG的MetaCenter,开源产品Pentaho Metadata,它们不依托于某项BI产品,是一种第三方的元数据管理工具;

壮实学数据技术07:元数据

开源产品Pentaho Metadata示意图

三是像普元、石竹这样的集成商也有自己的元数据管理工具:普元MetaCube、新炬网络元数据管理系统、石竹MetaOne等。

普元元数据驱动的微服务架构:

https://cloud.tencent.com/developer/article/1080067

https://cloud.tencent.com/developer/article/1080078

新炬网络元数据管理系统:

http://www.shsnc.com/index.php?m=content&c=index&a=lists&catid=188

石竹MetaOne产品图:
壮实学数据技术07:元数据

壮实学数据技术07:元数据

专门的元数据管理工具,对自家产品兼容较好,一旦涉及跨系统管理,就不尽如人意了。

04 元数据的功能和价值

如果你问我,元数据的功能和价值在哪里?目前,业界开展了一些实践:

  1、血缘分析:向上、向下表级、字段级别的追溯数据。血缘分析可以让您轻松知道:“我正在查看的报告数据来源是什么?”、“数据经过哪些转换处理?”、“销售额”从包含税费更改为不包括税费,哪些下游字段受到了影响。血缘分析可以满足许多行业(包括医疗、金融、银行和制造业等)对所呈现数据的特殊监管及合规性要求。

 2、指标一致性分析:定期分析指标定义是否和实际情况一致。大佬会上对不齐数据是何等的尴尬。。。。

 3、实体关联查询:事实表与维度表的代理键自动关联。

05 后记

打破一切:从人文后现代主义到数据后现代主义。

20世纪60年代,德国、法国、美国等出现了反西方近现代体系哲学倾向的思潮,学术上称之为“后现代主义”。你也许不知道啥是后现代主义,来一张图感受一下:

壮实学数据技术07:元数据

对!就是达利的《记忆的永恒》。

后现代主义就是一种用无序反对有序,用个人呓语反对宏大叙事、用解构反对结构的一种精神。

当代美国活跃的后现代主义者之一格里芬就说:“如果说后现代主义这一词汇在使用时可以从不同方面找到共同之处的话, 那就是,它指的是一种广泛的情绪,而不是一种共同的教条———即一种认为人类可以而且必须超越现代的情绪。”

所有理论的背后,都是这个时代的主流认知+情绪。数据也不例外。我们来看看《壮实学数据技术01》中的数据仓库两位大佬之争,就知道人们在反复横跳在秩序和速度中。

壮实学数据技术07:元数据

所以,我们今天要考虑,元数据在今天的合理性是什么?

在杂乱数据被管理起来之后,是不是在复杂、程式化上需要做做减法?

数据多≠信息多。如何把数据变为信息,是每一个数据人需要持续思考的事情。