首页>会议文档 >

搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践

page:
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践
搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践

搜狐视频 李修鹏 - 搜狐视频个性化推荐架构设计和实践

所属会议:SACC2016 (第八届)中国系统架构师大会会议地点:北京


下载

手机看
活动家APP客户端

扫二维码下载
或点击下载
Android iOS

4872次
浏览次数
SACC2016 (第八届)中国系统架构师大会所有文档 开九易云拓 朱龙春 - 互联网对传统企业应用架构冲击和机遇 淘宝 郑士汉 - Weex架构简介和性能优化实战 周亚金 - 安卓应用保护技术发展 小米电视工程师朱辉 - ZRAM那点事pdf 小米 朱辉 - 支持任意数量watchpoin的建议 学而思 赵文杰 - 交互式直播推流编码器的设计 搜狗 甄丽霞 - 基于Kafka-spark streaming的数据处理系统及测试 蚂蚁金服 郑波 - 网商银行金融云的架构之路 饿了么 徐巍 - 饿了么基础设施进化史 光载无限 许开强 - CDN直播系统的优化 搜狗 杨剑飞 - 统一数据平台的实践及思考 网易蜂巢 尧飘海 - 网易蜂巢公有容器云架构之路 超多维 郁树达 - 前进的路上,VR有哪些绕不开的坑 美团点评 喻继鹏 - 互联网行业财务系统架构探讨 阅文集团 徐海峰 - 阅文集团自主分布式文件系统 哈尔滨银行 姜岩 - 运维架构调整与运维工厂模式的建立 百度 张建伟 - 百度大数据离线计算平台流式shuffle服务 深圳瑞赛 张平 - 专业化的风控服务平台的技术架构及实践 魔窗 张申竣 - 创业公司的大数据平台选型和进化 去哪儿网 张子天 - Spider-QunarAndroid客户端架构的前世今生 蜗牛云 赵刚 - 京东VRAR实验室在电商VR中的实践 云计算公司技术专家赵伟 - 负载均衡利器HAProxy功能剖析及部署案例 中国移动 王烨 - 中国移动私有云管理平台架构和实践 优酷土豆 宋慎义 - 为全民直播量身定做流媒体平台 Linkedin China Engineer Supervisor魏佳 - 图数据库Neo4J的实践之路 美图 魏家富 - 美图公司运维自动化系统架构设计 阿里巴巴 郝豪 - 阿里Android instant run探索与实践 美团外卖 夏华夏 - 架构师的三个基本要求 爱奇艺 谢丹铭 - 爱奇艺业务风控系统 爱奇艺 刘俊晖 - 爱奇艺大数据平台的构建之路 爱奇艺 刘文峰 - 爱奇艺云架构实践优化 易到用车 刘宇 - PHP高性能服务框架架构与实践 网易 刘长伟 - 网易蜂巢Docker研发实践 刘喆 - 大数据时代AdMaster的运维架构 去哪儿网 路绪清 - 基于大数据的消费信贷平台 中国移动 罗刚毅 - 中国移动异构虚拟化平台统一管理研发与实践 优酷土豆 吕红亮 - 视频精准推荐系统实践 小米VR团队马坤 - VR技术与展望 资深云计算架构师马耀泉 - 云计算的高可用实践探索与分享 袋鼠云 宁海元 - 企业级云数据库管控架构设计与实践 汽车之家 欧阳梦南 - 汽车之家移动APP架构演进与性能优化历程 光载无限 欧曜伟 - 光载无限监控体系的变革与演进 阿里巴巴 袁冶平 - 阿里大数据平台发布管理体系 Hyper.sh 裴彤 - 基于 hyper 容器技术的新一代容器云 58到家 任桃术 - 58到家分布式服务框架 阿里巴巴 桑毅宏 - 互联网公司骨干网规划构 上汽集团 龚瀚申 - 上汽集团基于容器技术的尝试实践 滴滴出行 盛克华 - 滴滴高性能列式KV存储系统实践 京东 寿如阳 - 京东虚假交易识别系统 信泰人寿 章晨曦 - 数据分发平台的架构设计与实践 爱可生 王伟 - 数据之大,云动未来——传统企业从IT到DT的互联网创新最佳实践 上交所 孙长昊 - 上交所基于容器技术的微服务架构技术实践 魅族 覃军 - 魅族基础系统运维之路示 美团 唐义哲 - 美团业务风控系统构建经验 腾讯 程彬 - 腾讯云数据库CDB技术演进之路 一点资讯 王成光 - 轻量级分布式实时计算框架light_drtc 京东 王大泳 - 京东数据中心网络监控实践 农银 王福强 - 农银人寿新一代核心业务系统云平台实践题 Intel 王华峰、毛玮、张天伦 - 分布式流式数据处理框架:功能对比以及性能评估 时速云 王磊 - 容器云平台在企业中的运维管理和场景实践 达乎科技 王茜 - SDN对传统网络的变革和价值提升 北京邮电大学 李昕 - SDN向左,WAN向右 蜗牛云 李晨光 - VR沉浸式视频在移动平台的优化技术分析 武汉泰迪智慧科技 李成华 - 深度学习在自然语言中的应用 华胜信泰 李海翔 - 数据库引擎技术架构 360 李纪峰 - 云平台安全架构剖析 蚂蚁金服 李三红 - Java企业应用-性能优化原则,方法与策略 拍拍贷 徐王锦 - 金融行业数据库架构变迁 京东 杨海明 - 京东云的架构实践之路 神策数据 曹犟 - 从日志统计到大数据分析 饿了么 常盛 - 饿了么实时架构演进 DBI 常艳玲 - 架构师现状调查报告解读 日志易 陈军 - IT运维分析与海量日志搜索分析 华为 陈亮 - Apache CarbonData,实现大数据即席查询秒级响应 百度外卖 师陈霖 - 百度外卖服务化实战 腾讯微信 陈晓鹏 - 微信运维实时监控数据上报及存储设计实践 雪球 单艳蕾 - 雪球运维架构体系探索 证券 董国兴 - 传统金融行业企业架构创新与实践 腾御安 樊付强 - GNU工具链里的漏洞利用缓解技术 国家工商总局 付宏伟 - 工商数据中心架构创新之路 七牛云 何李石 - 七牛融合CDN实践 宜信 侯松 - 大数据全流程平台在互联网金融场景下的实现和借鉴意义 饿了么 张雪峰 - 架构师需要面对的两个【架构】 Apache HAWQ 简丽荣 - 数据仓库架构的变迁

文档介绍

主要介绍搜狐视频个性化推荐系统的架构和具体实践。主要会从五大方面剖析推荐系统的架构设计和实践,包括:多维度召回模型构建、特征工程、大规模机器学习排序、分布式推荐引擎、知识库体系。 1、介绍基于自然语言处理、行为日志分析、知识库体系等基础上构建的视频画像、用户画像和评分系统为基础构建的多维度分析的召回模型 2、介绍基础特征工程,通过非线性特征变化构建高级特征的实时特征工程为基础,开发的一套online+offline的机器学习排序系统。 3、介绍基于开发的分布式推荐引擎连接各个核心子系统的架构设计和具体实现。 主要技术点:实时大数据处理和计算架构、分布式系统设计、实时特征工程系统、自然语言处理系统、大规模机器学习的排序系统,A/B测试架构设计。

演讲实录

李老师2012年入职搜狐视频,一直从事大数据处理、推荐系统架构设计开发和机器学习等方面的研究和实践工作,2014年开始负责搜狐视频的个性推荐系统的基础架构设计和系统开发。

李老师主要介绍搜狐视频个性化推荐系统的架构和具体实践。主要会从五大方面剖析推荐系统的架构设计和实践,包括:多维度召回模型构建、特征工程、大规模机器学习排序、分布式推荐引擎、知识库体系。

介绍基于自然语言处理、行为日志分析、知识库体系等基础上构建的视频画像、用户画像和评分系统为基础构建的多维度分析的召回模型。

为什么要做推荐系统?李老师表示:“视频的覆盖率问题,好的视频无法难以被人发现,随着用户的量的增加,大部分用户存在没有特殊明确的需求场景,需求解决也比较迫切,帮助用户发现对自己有价值的视频,让视频展示对他感兴趣的用户面前,实现消费者和内容生产者双赢。”

个性化推荐产品形态

搜狐视频首页个性化,通过首页下拉进入个性化推荐消费流,在应用宝和百度手机助手等部分渠道可以下载,ios版本也于下个版本进行上线。

整合全站视频资源,通过“推荐引擎”和“视频处理引擎”将个性化、新鲜的视频快速分发到以适合场景,以合适形式传递给适合用户。

推荐系统架构:

李老师介绍,前段三种日志的上报、数据采集、进入实时计算、离线计算,通过调用各种算法模型、得出各种模型,通过推荐引擎对各个模型的结果进行封装得到推荐结果。

换个角度,看推荐系统服务体系架构图,推荐系统两大核心子系统即推荐引擎和视频处理引擎,通过两大引擎为中控,调用各个组件服务,产生推荐结果。

接下来,李老师介绍了基础特征工程,通过非线性特征变化构建高级特征的实时特征工程为基础,开发的一套online+offline的机器学习排序系统。

推荐引擎:

推荐引擎为基于storm计算框架开发的分布式计算程序,推荐引擎之前提供一个作用就是产生推荐结果,还有一个作用就是更新部分用户实时画像。

推荐结果和用户画像在分布式情况下进行更新,有一个很重要的点就是一致性问题,我们主要通过两步进行包装的,一个是模块内部统一个用户Ukey的数据只有一个独立的storm的计算task保证的。第二个是模块间通过CAS包保证的(compare and swap)。

如何评价推荐系统?

基于开发的分布式推荐引擎连接各个核心子系统的架构设计和具体实现。主要技术点:实时大数据处理和计算架构、分布式系统设计、实时特征工程系统、自然语言处理系统、大规模机器学习的排序系统,A/B测试架构设计。

×

打开微信扫一扫,分享到朋友圈