1.数据埋点
1.0 开始
为什么要做埋点业务?需求、价值、痛点
埋点它是指在APP或网页应用中针对特定的流程收集一定的信息,用来跟踪APP或网页服务被使用的情况,以便后续用来进一步优化产品或进行运营支持。
埋点可以衡量用户与网站或APP互动的情况。
数据获取手段-填写、埋点、日志
(1)用户填写信息
(2)APP 或 网页埋点(特定流程的信息记录点)
数据获取的另外一种手段就是填写、埋点、日志,
填写就是需要用户填写的信息,最常见的就是用户注册的时候需要填写一些基本信息,
埋点它是指在APP或网页应用中针对特定的流程收集一定的信息,用来跟踪APP或网页服务被使用的情况,以便后续用来进一步优化产品或进行运营支持。
比较常见的记录项 包括访问、访客停留时间、页面查看和跳出率。
这样的信息收集大致可以分为两种,
第一种是页面统计,
第二种就是统计它的操作行为。
对于一个互联网公司来说,埋点是非常重要的数据来源,它直接记录了用户与互联网产品的交互过程,几乎可以复现用户使用互联网产品时候的过程,埋点可以自己开发,也可以用一些第三方的插件,像友盟这方面的服务做的还是不错的。
最后一个操作日志,日志和数据仓库有共同的作用,只是说日志的记录相对来说更加精简一些,也可以在出故障的时候帮助我们定位问题。
日志是以文件形式记录的,但一般为了分析,日志也是需要被汇总到数据仓库中,然后进行统一的分析。
日志也有前端日志和后端日志,前端日志就是你的网页或者你的手机APP里记录的一些日志,前端日志是需要传输到后端才能被记录的,后端日志就是服务器的日志可以直接进行处理,数据获取的最后一种手段 计算,有些属性我们不能直接获取,通过计算才会变得有意义。
像什么我们常见的市盈率,或者是一些企业常见的投入产出比,这些我们关注的因子,它们不能被直接观测到,必须是计算以后才有它的实际意义。
1.1主流埋点方式(了解)
目前主流的埋点方式,有代码埋点(前端/后端)、可视化埋点、全埋点三种。
代码埋点是通过调用埋点SDK函数,在需要埋点的业务逻辑功能位置调用接口,上报埋点数据。
问题:埋点SDK函数怎么设计?
例如,我们对页面中的某个按钮埋点后,当这个按钮被点击时,可以在这个按钮对应的OnClick函数里面调用SDK提供的数据发送接口,来发送数据。
可视化埋点只需要研发人员集成采集SDK,不需要写埋点代码,业务人员就可以通过访问分析平台的“圈选”功能,来“圈”出需要对用户行为进行捕捉的控件,并对该事件进行命名。
圈选完毕后,这些配置会同步到各个用户的终端上,由采集SDK按照圈选的配置自动进行用户行为数据的采集和发送。
全埋点是通过在产品中嵌入SDK,前端自动采集页面上的全部用户行为事件,上报埋点数据,相当于做了一个统一的埋点。然后再通过界面配置哪些数据需要在系统里面进行分析。
1.2 埋点数据上报时机
埋点数据上报时机包括两种方式。
方式一,在离开该页面时,上传在这个页面产生的所有数据(页面、事件、曝光、错误等)。
优点,批处理,减少了服务器接收数据压力
缺点,不是特别及时。(采用方式一埋点)
方式二,每个事件、动作、错误等,产生后,立即发送。
优点,响应及时。
缺点,对服务器接收数据压力比较大。
1.3 埋点数据日志结构
我们的日志结构大致可分为两类,
一是普通页面埋点日志,
二是启动日志。
普通页面日志结构如下,
每条日志包含了,当前页面的页面信息,所有事件(动作)、
所有曝光信息以及错误信息。
除此之外,还包含了一系列公共信息,包括设备信息,地理位置,应用信息等,即下边的common字段。(json字符串)
(1)普通页面埋点日志格式
(2)启动日志格式
启动日志结构相对简单,主要包含公共信息,启动信息和错误信息。
1.4.市面上 开源的 埋点 工具有哪些?
小象用户行为分析平台:https://gitee.com/xiaoxiangopen/analysis
铸龙BI: https://www.yuque.com/jianghurenchenggolang/oehqme/hen7qy#mPEDK
1.5. 市面上付费的 埋点 工具有哪些?
友盟:https://www.umeng.com/
神策数据:
https://www.sensorsdata.cn/ 其他(loading)
1.6. 提供什么服务?能做什么?有哪些模块?
比如小象用户行为分析平台 提供的服务:
包括用户埋点数据采集、用户标签分群和画像、智慧运营、营销等
概览分析 - 基础指标监控:


概览分析 - 我的概览:

增长分析 - 漏斗分析:

增长分析 - 留存分析:

增长分析 - 分布分析:

增长分析 - LTV分析:

增长分析 - 用户路径分析:

用户画像 - 用户画像:

智能营销 - 智慧运营:

智能营销 - 消息推送:

智能营销 - 智能推荐:

智能营销 - 权益发放:

元数据管理 - 应用管理:

元数据管理 - 元事件分组;

神策数据 提供的服务:
行为分析,(事件分析,网页热力分析,App点击分析)
用户分析,(用户群画像,属性分析)

智能运营,(运营计划,流程画布,内容管理)

广告投放分析,(报表,推广,资产,管理和配置)

用户管理:

内容管理:

数据管理:

1.7 其他方案
使用 clickhouse+datax+redash
















