0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Python爬取394452条《都挺好》弹幕数据,发现弹幕比剧还精彩?

电子工程师 来源:lp 2019-04-04 17:04 次阅读

作者 |周志鹏,2年数据分析,深切感受到数据分析的有趣和学习过程中缺少案例的无奈,遂新开公众号「数据不吹牛」,定期更新数据分析相关技巧和有趣案例(含实战数据集)。

最近《都挺好》真的挺火。

火到什么程度?微博热搜霸榜,办公室评弹声四起,大强轻松攻占表情包,甚至连N年不追剧的瘦宅们也开始沉迷其中,大呼真香。

图片来源《都挺好》官微

剧很精彩,但追剧界有句俗话说的好:“弹幕往往比剧更精彩”,为了让精彩延续下去,我终究没能忍住对(腾讯视频)弹幕下手。

经过一番折腾,发现弹幕是JSON格式动态加载的,而且加载的非常有规律,30秒一发(80-100条),多出的会隐藏。共计爬取了394452条弹幕(雨露均沾,每集平均8575条,每30S的间隔爬取),来挖一挖弹幕这个宝藏。

1、弹幕基本盘概览

爬到的源数据是酱紫的:

发现有部分用户名是缺失的,由于这部分用户占比很小(仅0.61%),所以我们直接暴力的除去这部分噪声。

清洗之后,还剩下117484个用户发送的392051条弹幕,人均发送弹幕量3.34条。

再看看每个人发送弹幕数是怎么样分布的:

显而易见,大部分用户还是比较佛系的,71607位用户(占比60.95%)在46集中只发送过1条弹幕,他们内心严格遵循“爱就一个字,我只发一次”的弹幕发送准则。

发送条数在3条及以内的用户数占比达到了83.73%,他们累计贡献了133331条弹幕,占到弹幕总数的34.01%,反过来看,剩下16.27%的用户贡献了弹幕量的65.99%。从这个角度来看,二八法则在这里更像是二七法则(20%的用户贡献了70%的内容)。

2、是谁在疯狂发射弹幕,而弹幕又爱上了谁

弹幕发送量TOP10榜单:

我们都知道明成是“行走的造粪机”,那么从弹幕的角度来看,谁是“行走的弹幕发射机”呢?

为此,我们筛选出累计发送弹幕TOP10的用户:

微微一操作(爬取、清洗和分析都使用PYTHON

danmu_counts = df.groupby('用户名')['评论id'].count().sort_values(ascending= False).reset_index()danmu_counts.columns = ['用户名','累计发送弹幕数']danmu_counts.head(10)br

Emmm,上一步我们知道平均每个人在整部剧会发送3.34条弹幕,而弹幕发送排行榜前十的旁友们发送量都是过千级别的,我们再加上这个用户弹幕发送涉及到的集数,进一步看看平均每集发送弹幕数。为了更直观一些,可视化之:

一位名叫"@L"的用户独占鳌头,是毋庸置疑的C位输出。在46集的电视剧中,他的弹幕血洗了32集,累计发射2773条弹幕,平均每集发送86.66条。

什么概念呢?

一集电视剧时长约42分钟,也就是说,这位大佬在看剧的同时,仍能保持每分钟2.06条的发送频次,还坚持了32集。

到这里大家一定会有质疑,觉得他肯定是刷了大量的“666”、“来了”之类毫无意义的内容来霸榜,所以呢,我把他的输出内容筛了出来并做成词云图:

这,这,这位大佬输出的内容,不仅紧贴剧情,更是文风多变,时而总结内容,时而嬉笑怒骂,时而感慨人生,时而出口成诗,毫不夸张的说比一般弹幕都要有内涵。

我的膝盖,开始不听使唤了......

唯有疾呼“高山(频)仰止,景行行止”。

谁的弹幕最受青睐(点赞数最多):

根据每个用户累计点赞量排序,GET到弹幕点赞TOP10排行榜:

第一名“追剧小奶鹅”平均每集发6条弹幕,每条弹幕竟然能够得到4585个赞!难道这就是传说中的精神领袖吗?难道大佬之外还有大佬吗?

在看剧的时候经常能够被他的弹幕刷屏,而且他的弹幕比其他人停留时间更长,颜色更艳丽。经核实,发现第一名,原来是嫡系:

腾讯视频电视剧弹幕专业陪聊,怪不得这么高的赞。

而第二名,又是我们的大佬“@L”,他凭借高频、稳定、持续输出累计获得21.69万赞,平均每条弹幕获赞78.22个。

大佬,请收下我的膝盖!

3、高赞弹幕有何套路:

A)嫡系部队:

我们单独把腾讯的嫡系部队“追剧小奶鹅”拎出来,是因为他几乎垄断了高赞弹幕TOP300,嫡系光环加持,赞或许有虚高的嫌疑,但不妨碍我们单独分析他内容的套路:

(其实不少小奶鹅的弹幕并没有其他的精彩,但毕竟是亲儿子)他的套路暴力总结起来一句话:对仗工整提大强,感天动地夸明玉。

B)非嫡系部队:

高赞的(非嫡系)朋友们深得演唱会那句带节奏名言“现场的朋友们,举起你们的双手,让我看到你们的热情”的真传。

“觉得XX说的对点下谢谢”、“给XX点赞!”套路是获赞的一大法宝,另一法宝就是推动剧情的内容总结了。

3、弹幕视角主人公情感分析

谁是苏家最受弹幕关注的人儿

要分析谁是苏家最受弹幕关注的人,必须先根据关键词去甄别和定位到剧中角色。

这里列出了关于苏家人的简单词库,用来识别弹幕在议论谁。

54.31%的弹幕没有主观倾向性,没有提及具体的苏家人(可能提及了剧中其他人,这里暂不考虑)。

明玉竟然抢过了大强的宝座,以19.91%的弹幕提及率拔得头筹,而大强则以16.16%的关注度紧随其后。

Emmm,无论是剧外热度还是追剧时弹幕槽点,我都觉得大强应该才是最受关注的啊!

作为一个严谨的追剧人,我开始排查弹幕,发现了很多戏精在发弹幕时都玩起了角色扮演,他们在发弹幕时,总是先在开头署名“苏明玉:”OR其他剧中角色,仿佛在代他们发声。

清洗完这部分调皮的用户之后,排名出现了新的变化:

果然,其他除外,大强以15.16%的关注占比领先其他家人一个身位,明玉又把两个哥哥拉开了一个身位的距离,占比8.82%,明成和明哲关注占比分别是4.84%和4.28%。

PS,明成关注度之所以低,是因为很多弹幕骂人并不会指名道姓:),而明哲嘛,对这个排名表示很失望。

弹幕情感分析

看剧(弹幕)时能够明显感觉到观众对于明成的态度从最开始的“过街老鼠,人人喊打”到后来的“明成懂事了”。

从数据分析的角度讲,明成是否成功洗白?大强最后催泪演绎效果如何?

这里我们调用百度情感分析API,对每一条评价的内容进行情感打分,用情感分值来验证上述问题(分值在0-1之间,越靠近0负面倾向越强,越接近1则情感越情面)。

调用方法很简单(只对内容感兴趣可以直接略过代码):

#先安装aip包from aip import AipNlp#到后台配置权限,获得相关ID和KEY,目前API是免费且不限量的app_id = '输入实际ID'api_key = '输入实际KEY'secret_key = '输入实际SECRET_KEY'client = AipNlp(app_id,api_key,secret_key) #定义函数,以便循环爬取def senti_analy(text):data = client.sentimentClassify(text)sentiment = data['items'][0]['positive_prob']return sentiment for text in df['内容']:try:sentiments.append(senti_analy(text))except:#print(text)sentiments.append('pass') df['情感分值'] = sentimentsbr

打分筛选过后,我们统计出每一集苏家每个人的平均情感分值,并绘制出曲线图(4个人导致折线图可读性较差,所以只有委屈大哥了):

大强开局不错,和明玉持平,但凭借倪老师“作死小能手”的实力诠释,让情感分值迅速走低,11集的低点正式印证了大强的“癫疯之作”,之后分值在0.38左右徘徊。随着“蔡根花宝贝”梗的出现,“嘲讽”替代了指责,让分值略微上浮(情感打分对于高级黑式嘲讽难以准确判断)。最后老年痴呆发病后大强对明玉的爱让分值一举超过0.5,达到历史峰值,成功上岸。

明玉是原生家庭的受害者,也是一个靠自己成功的女强人,前期爱恨分明,情感分值一度飙到0.59(超过其他所有角色),18集开始的买房纷争,网友纷纷表示强烈同情(例:明玉不能像十年前一样别理他们吗?情感分值只有0.041),这让明玉相关的情感分值严重走低,随后弹幕主旋律仍以叫好和同情为主。

明成的情感分值走势更有意思,开局最低,靠欺负妹妹让分值迅速降低,可谓“人人喊打”,后面分值的飙升,一度追上明玉,主要是因为明成期望值已经极低,但是他宠老婆的行为得到观众认可。中期本色挨骂,降至低谷。27集明成情感分值再次超过0.5,竟然是因为明成想吓走大强进行的一系列骚操作(尤其是广场舞)。再后来就是明成幡然悔悟,走上正轨,分值在稳定在0.45左右,也算成功洗白。

看来,开局降期望,中期随便作,后期催泪逆风翻盘,终究还是会被观众接受。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据分析
    +关注

    关注

    2

    文章

    1423

    浏览量

    33998
  • python
    +关注

    关注

    55

    文章

    4777

    浏览量

    84413
  • 数据集
    +关注

    关注

    4

    文章

    1205

    浏览量

    24631

原文标题:Python爬取394452条《都挺好》弹幕数据,发现弹幕比剧还精彩?

文章出处:【微信号:rgznai100,微信公众号:rgznai100】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    语音弹幕 吐槽真爽快

    看《欢乐颂》,于是我说随便说了句“刘涛和林心如合作什么好的电视呢”,然后电视屏幕上马上就显示“弹幕即将发射”,随后电视屏幕上就出现了“刘涛和林心如合作什么好的电视呢”的文字。不得不说很让人惊奇啊!有这
    发表于 05-22 12:02

    基于Python3对携程网页上北京五星级酒店列表的

    Python3 携程网[1] 根据好评优先顺序,获取北京五星级酒店列表
    发表于 04-19 16:25

    基于Canvas标签开发弹幕

    Canvas 弹幕的优先选择
    发表于 04-30 07:18

    基于Python实现一只小爬虫拉勾网职位信息的方法

    通俗易懂的分析如何用Python实现一只小爬虫,拉勾网的职位信息
    发表于 05-17 06:54

    手写弹幕服务器的详细介绍

    手写弹幕服务器—包看懂篇
    发表于 07-19 17:17

    python音频文件的步骤

    python爬虫音频文件
    发表于 08-22 14:23

    Python豆瓣电影信息和存储数据

    Python——豆瓣电影信息并存储数据
    发表于 03-11 11:19

    基于弹幕文本的视频情感识别算法

    构建基于隐含狄利克雷分布( LDA)的弹幕词语分类,评估弹幕词语在视频片段中的多维情感向量,同时,根据视频片段之间的情感依赖关系推荐视频的情感片段。所提方法的推荐准确度基于词频一逆文档频率( TF-IDF)的推荐算法提
    发表于 12-04 10:53 1次下载

    Python CSDN的极客头条

    Python 如何CSDN的极客头条呢?
    的头像 发表于 03-21 14:58 4794次阅读
    <b class='flag-5'>Python</b> <b class='flag-5'>爬</b><b class='flag-5'>取</b>CSDN的极客头条

    Python爬虫网站

    后来发现,其电视链接都是在文章里面,然后文章url后面有个数字编号,就像这样的http://cn163.net/archives/24016/,所以机智的我又用了之前写过的爬虫经验,解决方法就是
    的头像 发表于 04-16 12:52 2780次阅读
    <b class='flag-5'>Python</b>爬虫<b class='flag-5'>爬</b><b class='flag-5'>取</b>美<b class='flag-5'>剧</b>网站

    到底可不可以设计一个物联网弹幕

    物联网弹幕器将会采集一个温度传感器的数据并简单处理一下,发送给云端实现设备上报数据的功能;在云端,我打算做一个Web应用,你可以理解为制作一个网页(我已经玩过了,发现网页代码编写炒鸡简
    发表于 05-28 17:58 0次下载
    到底可不可以设计一个物联网<b class='flag-5'>弹幕</b>器

    弹幕信息下的多目标视频分类任务综述

    文中探究了弹幕信息协助下的视频多标签分类任务。多标签视频分类任务根据视频内容从不同角度赋予视频多个标签,与视频推荐等应用紧密相关。多标签视频数据集的髙标注成本和对视频内容的多角度理解是该研究领域面临
    发表于 04-20 11:13 5次下载
    <b class='flag-5'>弹幕</b>信息下的多目标视频分类任务综述

    如何用python抖音app数据

    记录一下如何用pythonapp数据,本文以抖音视频app为例。
    的头像 发表于 03-16 09:07 5252次阅读

    基于鸿蒙适配移植的开源弹幕解析绘制引擎项目

    项目介绍 项目名称:开源弹幕解析绘制引擎项目 所属系列:鸿蒙的第三方组件适配移植 功能:支持显示、隐藏、显示、暂停、继续、发送、定时发送弹幕 项目移植状态:完成 调用差异:无 开发版本:sdk5
    发表于 04-11 10:38 2次下载

    Scrapy怎么Python文件

    我们介绍了Scrapy框架运行基本原理,紧接着我们介绍了如何利用Scrapy文本数据
    的头像 发表于 02-24 15:16 554次阅读
    Scrapy怎么<b class='flag-5'>爬</b><b class='flag-5'>取</b><b class='flag-5'>Python</b>文件