
赵宏田
本书从技术维度系统讲解了用户画像的方法论和一些常见的工程化解决方案。 全书共分为9个章节。 用户画像基础:讲述用户画像的一些基础概念、数据仓库架构、整个项目开发的流程、以及画像相关的表结构设计; 第二章 数据指标体系:从用户属性、用户行为、用户消费、风险控制等四个维度详细罗列了常用到的用户标签,这些标签基本涵盖了大部分场景一半以上的标签需求。同时介绍了标签的规范化命名方式; 第三章 标签数据存储:讲了为什么使用Hive、MySQL、hbase等数据库对标签数据进行存储,以及存储实现方式; 第四章 标签数据开发:本章是全书的重点章节,讲述了统计类标签、规则类标签、挖掘类标签、流式计算类标签的开发。以及用户特征库、人群计算、标签权重计算、打通数据服务层等方面的开发。; 第五章 开发性能调优:主要包括数据倾斜调优、开发中间表、读取小文件处理、redis缓存热数据等数据性能优化方面; 第六章 作业流程调度:数据的ETL调度是数据开发中的重要内容,本章主要讲了如何使用当下热门的开源调度工具Airflow进行数据的调度及场景调度异常的排查工作; 第七章 用户画像产品化:开发画像后的标签数据,如果只是“躺在”数据仓库中,并不能发挥更大的业务价值。只有将画像数据产品化后才能更方便业务方的使用。本章主要讲述了产品端的用户画像是什么样子?如何帮助业务人员进行分析,提供服务的; 第八章 用户画像应用:用户画像的应用包括用户分析、商品分析、流量分析、push、短信、邮件等营销以及站内的个性化推荐等应用场景; 第九章 实践案例详解:前面的八个章节主要从工程化开发的角度讲了如何从0到1搭建起用户画像系统及其应用场景,本章从完整的工业实践应用角度,通过两个实践案例帮助读者更好地理解画像系统是如何切入到应用场景中帮助提升工作效率、提高ROI的。
讲的太浅,停留表面,看完没太大启发收获,感觉书里对于执行细节比方法和逻辑描述的要对,整体感受比较散点
作者在书中有写哪些章节适合哪些人群阅读,我就把它粘过来吧,方便大家了解 ❑产品经理:由于岗位性质对技术不是特别熟悉,可重点关注第1、2、7、8、9章的内容。 ❑数据分析师:可以从多个维度对用户及用户群进行分析,可重点关注第1、2、3、7、8、9章的内容。 ❑运营人员以及业务人员:可重点关注第2、8、9章的内容,了解画像系统涉及的指标体系、应用场景及应用策略。 ❑数据开发人员:本书主要站在数据开发人员的角度对整个画像系统进行系统化介绍。数据开发人员可完整阅读本书各章的内容。
书内容太一般了,所谓标签,要对业务有价值,一个产品能建立15个标签并且确实应用在业务中,就很好了。
好实在的作者。没什么废话,从设计到工程到应用,说的很清楚。
#用户画像#读后分享 本书主要内容讲述了用户画像的核心原理就是打标签,将标签分为了①统计类标签;②规则类标签;③机器学习挖掘类标签。 由于很多内容属于技术实战性内容,所以如果是产品伙伴建议按作者的引导,专注1、2、7、8、9章。通过这几章的阅读,你可以知道用户标签可以通过结构化的方式完成画像模型的搭建,但核心的差异在于对于标签集合的定义。在众多的应用当中,我们熟悉的是精准化营销,即为特定的人触达特定的事件。用户分析是基于一个有效的标签定义,且可视化的分析一定是包含的对比信息,单一的数据展示毫无价值。 其他方面,这本书由于是技术工程类书籍,并没有太多产品的设计思想,它聚焦的是如何实现。 因此从新认知维度来看,我主要get到数据存储不是单一数据库类型,而是包括了MySQL、Redis、Elasticsearch等技术选型,不同业务节点选择的不同架构支撑。换成白话就是用于展示的调用某一类数据库,用于计算的,调用另一类数据库技术。 从应用方面元数据,到最终产生画像结果,其实走的流程是数据ETL机制,这部分需要大家去了解数据产品的常规操作。另外全书中推荐看一下数据指标体系,它会让你对指标体系定义有一个相对巨像的认识常见的用户属性,用户行为,用户消费等 最后提醒一下,里面很多都是技术维度术语,大家看不懂就不要深究。时间请平衡安排,对技术有兴趣可以尝试全量阅读
20230910笔记📒纸质 用户画像基础 一、用户画像(用户信息标签化) 1.用户画像是应用大数据的根基,是定向广告投放和个性化推荐的前置条件,为数据驱动运营奠定基础。 2.数据应用体系的层级划分 1⃣️基础平台搭建:数据平台建设、数据仓库建设、统一SDK 2⃣️报表与可视化:可配置数据报表的可视化展现 3⃣️产品运营与分析:自助提取数据、报表分析工具 4⃣️精细化运营工具:用户行为分析、用户画像、数据挖掘、个性化推荐 5⃣️战略决策:决策支持 3.标签类型 1⃣️统计类标签🏷️ 2⃣️规则类标签 🏷️协商统一标签的定义口径 3⃣️机器学习挖掘类标签🏷️ 用于预测场景 二、数据架构 用户画像数仓架构 1.ETL作业 1⃣️业务数据 2⃣️日志数据 3⃣️埋点数据 4⃣️外部数据 2.主题建模 1⃣️用户属性 2⃣️用户行为 3⃣️用户偏好 4⃣️购买品类 5⃣️风险控制 6⃣️群体偏好 3.画像产品端管理 三、主要覆盖模块 1.用户画像基础 2.数据指标体系 3.标签数据存储 4.标签数据开发 5.开发性能调优 6.作业流程调度 1⃣️标签加工2⃣️人群计算 3⃣️同步数据到业务系统 4⃣️数据监控预警 7.用户画像产品化 产品化模块1⃣️标签视图2⃣️用户标签查询 3⃣️用户分群4⃣️透视分析 8.用户画像应用 1⃣️短信2⃣️邮件3⃣️站内信 4⃣️push消息的精准推送 5⃣️客服针对用户的不同话术 6⃣️针对高质量用户的极速退货退款 四、开发阶段流程 1.开发上线流程 1⃣️目标解读 2⃣️任务分解与需求调研 3⃣️需求场景讨论与明确 4⃣️应用场景与数据口径确认 5⃣️特征选取与模型数据落表 6⃣️线下模型数据验收与测试 7⃣️线上模型发布与效果追踪 5.
推荐,对于数据画像标签搭建很好的入门书,从指标定义到底层开发,规则搭建和产品形式进行了清晰的阐述。 ◆ 前言 >> 从0到1开始搭建用户画像系统,从离线标签开发、用户数据分析、ETL调度、流式计算开发,到打通数据服务层、应用画像数据服务业务方、获得业务增长的反馈 >> 一套好的解决方案需要包括以下几个层面。1)架构层:在画像系统的架构层,本书首先介绍了画像数据仓库的架构,进一步介绍了数据存储的技术选型,在什么场景下使用Hive、MySQL、HBase、Elasticsearch等工具存储数据,用户标签开发、人群计算开发等相应数据开发层面的内容,以及整个项目的开发流程和各阶段的关键产出。2)流量层:介绍整个方案是如何运作起来的。本书主要涉及画像系统的作业流程调度、数据仓库和各业务系统的打通。3)业务层:包括系统的前后端交互以及如何把这套系统应用在业务服务层面。本书通过用户画像产品化介绍了产品端和画像系统的“代码”层面是如何进行交互操作的。4)方案价值:包括系统上线后如何服务于各业务场景产生业务价值以及有待进一步完善的地方。 ◆ 1.1.2 标签类型 >> 从对用户打标签的方式来看,一般分为3种类型(如图1-3所示):①统计类标签;②规则类标签;③机器学习挖掘类标签。 ◆ 1.3 主要覆盖模块 >> 搭建一套用户画像方案整体来说需要考虑8个模块的建设,如图1-5所示。[插图] ◆ 1.4.2 各阶段关键产出 >> 画像体系的开发分为几个主要阶段,包括前期指标体系梳理、用户标签开发、ETL调度开发、打通数据服务层、画像产品端开发、面向业务方推广应用、为业务方提供营销策略的解决方案等,如表1-1所示。表1-1 用户画像项目各阶段关键产出[插图] ◆ 第2章 数据指标体系 >> 互联网相关企业在建立用户画像时一般除了基于用户维度(userid)建立一套用户标签体系外,还会基于用户使用设备维度(cookieid)建立相应的标签体系 ◆ 2.1 用户属性维度 >> 用户属性是刻画用户的基础。常见用户属性指标包括:用户的年龄、性别、安装时间、注册状态、城市、省份、活跃登录地、历史购买状态、历史购买金额等。 >> 用户属性标签包含统计类、规则类、机器学习挖掘类等类型 ◆ 2.2 用户行为维度 >> 常见用户行为维度指标(见表2-2)包括:用户订单相关行为、下单/访问行为、用户近30天行为类型指标、用户高频活跃时间段、用户购买品类、点击偏好、营销敏感度等相关行为。 ◆ 2.3 用户消费维度 >> 用户消费维度标签示例[插图] ◆ 2.4 风险控制维度 >> 例如可从账号风险、设备风险、借贷风险等维度入手构建风控维度标签体系 ◆ 2.7 标签命名方式 >> 可以从标签主题、刻画维度、标签类型、一级归类等多角度入手来确定每个标签的唯一名称,如图2-5所示。[插图] ◆ 3.1.3 标签汇聚 标签汇聚成json? >> 开发udf函数“cast_to_json”将用户身上的标签汇聚成json字符串,执行命令将按分区存储的标签进行汇聚:[插图] ◆ 3.1.4 ID-MAP >> 通过ID-MApping打通userid和cookieid的对应关系,可以在用户登录、未登录设备时都能捕获其行为轨迹。 ◆ 3.2.1 元数据管理 >> 平台标签视图中的标签元数据可以维护在MySQL关系数据库中,便于标签的编辑、查询和管理。 ◆ 3.3 HBase存储 >> HBase是一个高性能、列存储、可伸缩、实时读写的分布式存储系统,同样运行在HDFS之上。与Hive不同的是,HBase能够在数据库上实时运行,而不是跑MapReduce任务,适合进行大数据的实时查询。 ◆ 第4章 标签数据开发 >> 标签数据开发是用户画像体系搭建中最主要的环节,主要包括离线标签开发、实时类标签开发、用户特征库开发、人群计算、打通数据服务层等开发内容。
对画像系统有一个初步认识,最后面的案例,我觉得并没有说明如何跟画像的功能和内容结合。 比较想知道从0 到一做一个场景从数据采集清洗存储画像结构设计、产品化 的完整说明。 另外,海量的用户又如何保证数据获取的高效性。
"这是一本从技术、产品和运营3个角度讲解如何从0到1构建用户画像系统的著作,同时它还为如何利用用户画像系统驱动企业的营收增长给出了解决方案。作者有多年的大数据研发和数据化运营经验,曾参与和负责多个亿级规模的用户画像系统的搭建,在用户画像系统的设计、开发和落地解决方案等方面有丰富的经验。 在众多数据分析方法中,用户画像几乎是后期数据工作的“标配”,适用于应用层的个性化推荐、精准营销、客群管理和运营等各个场景,对于企业战略决策和战术实施极为关键。本书围绕用户画像主题进行了深度剖析,从实战角度结合多业务场景对用户画像相关技术进行详细讲解。涵盖画像基础、指标体系搭建、数据存储、数据开发、性能调优、流程调度、产品化案例和实践应用等内容,完整、详实且落地性强,对于做分层策略的运营人员、追求用户体验的产品经理、寻找解决方案的数据分析师、搭建底层特征的算法工程师来说,是不可多得的案头工具书!"
这是一本从技术、产品和运营三个角度讲解如何从0到1构建一个用户画像系统的著作,同时它还为如何利用用户画像系统驱动企业的营收增长给出了解决方案。书中手把手教授工程实现、模型搭建、应用场景等内容,对于做分层策略的运营人员、追求用户体验的产品经理、寻找解决方案的数据分析师、搭建底层特征的算法工程师来说,是不可多得的案头工具书!