忘记密码

成功验证手机号即可找回密码

请输入密码
请确认密码
用户登录
请输入密码
忘记密码
注册免费试用
注册后联系客服获取免费资格
请输入密码
《芝麻HTTP用户注册协议》
复制成功
请粘贴在新的浏览器或标签页内打开
确定
账户余额不足10元

为了不影响您的正常使用,请及时充值!

我知道了

恭喜您注册成功!
已成功领取账户余额

25 1
立即领取

手机号绑定成功!
已成功领取账户余额

25 1
立即领取
芝麻HTTP
芝麻HTTP注册协议
本协议是您与芝麻HTTP相关事宜所订立的契约,请您仔细阅读本注册协议,您点击“同意”后,本协议即构成对双方有约束力的法律文件。

第1条 用户注册

1、用户注册是指用户登录芝麻HTTP,按要求填写相关信息并确认同意本服务协议的过程。

2、芝麻HTTP用户必须是具有完全民事行为能力的自然人。

3、本产品一经售出,概不退款。

第2条 用户的帐号,密码和安全性

用户一旦注册成功,成为本站的合法用户。芝麻HTTP将对用户名和密码安全负全部责任,若是因个人行为造成的密码用户安全问题,本公司不负责任。此外,每个用户都要对以其用户名进行的所有活动和事件负全责。用户若发现任何非法使用用户帐号或存在安全漏洞的情况,请立即通告本站或者致电官网电话。
第3条 用户依法言行义务
本协议依据国家相关法律法规规章制定,用户同意严格遵守以下义务:
(1)不得传输或发表:煽动抗拒、破坏宪法和法律、行政法规实施的言论,煽动颠覆国家政权,推翻社会主义制度的言论,煽动分裂国家、破坏国家统一的的言论,煽动民族仇恨、民族歧视、破坏民族团结的言论;
(2)从中国大陆向境外传输资料信息时必须符合中国有关法规;
(3)不得利用本站从事洗钱、窃取商业秘密、窃取个人信息等违法犯罪活动;
(4)不得干扰本站的正常运转,不得侵入本站及国家计算机信息系统;
(5)不得传输或发表任何违法犯罪的、骚扰性的、中伤他人的、辱骂性的、恐吓性的、伤害性的、庸俗的,淫秽的、不文明的等信息资料;
(6)不得传输或发表损害国家社会公共利益和涉及国家安全的信息资料或言论;
(7)不得教唆他人从事本条所禁止的行为;
(8)不得利用在本站注册的账户进行牟利性经营活动;
(9)不得发布任何侵犯他人著作权、商标权等知识产权或合法权利的内容;
用户应不时关注并遵守本站不时公布或修改的各类合法规则规定。
本站保有删除站内各类不符合法律政策或不真实的信息内容而无须通知用户的权利。
若用户未遵守以上规定的,本站有权作出独立判断并采取暂停或关闭用户帐号等措施。用户须对自己在网上的言论和行为承担法律责任。

第4条 协议更新及用户关注义务
根据国家法律法规变化及网站运营需要,芝麻HTTP有权对本协议条款不时地进行修改,修改后的协议一旦被张贴在本站上即生效,并代替原来的协议。用户可随时登录查阅最新协议; 用户有义务不时关注并阅读最新版的协议及网站公告。如用户不同意更新后的协议,可以且应立即停止接受网站依据本协议提供的服务;如用户继续使用本网站提供的服务的,即视为同意更新后的协议。芝麻HTTP建议您在使用本站之前阅读本协议及本站的公告。 如果本协议中任何一条被视为废止、无效或因任何理由不可执行,该条应视为可分的且并不影响任何其余条款的有效性和可执行性。

第5条 法律管辖和适用
本协议的订立、执行和解释及争议的解决均应适用在中华人民共和国大陆地区适用之有效法律(但不包括其冲突法规则)。 如发生本协议与适用之法律相抵触时,则这些条款将完全按法律规定重新解释,而其它有效条款继续有效。 如缔约方就本协议内容或其执行发生任何争议,双方应尽力友好协商解决;协商不成时,任何一方均可向有管辖权的中华人民共和国大陆地区法院提起诉讼。
同意并继续

为IP需求定制
提供专业解决方案

首页> 最新资讯> 爬虫如何爬斗鱼直播的主播信息数据

爬虫如何爬斗鱼直播的主播信息数据

最新资讯 发布日期 2019-04-26         

  今天芝麻HTTP就为大家分享一下,爬虫是如何爬取斗鱼直播的主播信息数据的。这里我们主要抓取的信息有主播的名称和粉丝数量,首先,我们先打开斗鱼直播的网页,F12审查元素,查找我们需要的信息所在的位置。

  代码如下:

from selenium import webdriver

from lxml import etree

import csv

# 创建浏览器对象,发请求

driver = webdriver.Chrome()

driver.get("https://www.douyu.com/directory/all")

class DouyuSpider:

def __init__(self):

self.n = 0

self.page = 1

# 获取主播名称、粉丝数量

def getData(self):

# 创建xpath的解析对象

parseHtml = etree.HTML(driver.page_source)

names = parseHtml.xpath('//div[@id="live-list-content"]//span[@class="dy-name ellipsis fl"]/text()')

numbers = parseHtml.xpath('//div[@id="live-list-content"]//span[@class="dy-num fr"]/text()')

# names : ["主播1","主播2",....]

# numbers:["90.8万","90万",...]

# zip(L1,L2) : [(1,"A"),(2,"B"),(3,"C")]

for name,number in zip(names,numbers):

L = [name.strip(),number.strip()]

self.writeData(L)

self.n += 1

# 保存到csv文件

def writeData(self,L):

with open("斗鱼直播.csv","a",newline="",encoding="gb18030") as f:

writer = csv.writer(f)

writer.writerow(L)

# 主函数

def workOn(self):

for i in range(1,11):

self.getData()

print("第%d页爬取成功" % i)

# 如果找不到不能点的下一页的class,去点击下一页

if driver.page_source.find("shark-pager-next shark-pager-disable shark-pager-disable-next") == -1:

driver.find_element_by_class_name("shark-pager-next").click()

else:

print("爬取完成")

break

print("一共有%d个主播" % self.n)

if __name__ == "__main__":

spider = DouyuSpider()

spider.workOn()

  通过上述代码,我们就可以获取到斗鱼的主播名称和粉丝数量了。芝麻HTTP为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。


爬虫 主播 数据
客户经理
1740088888 17696581266
在线咨询

售后客服1

在线售后,实时响应

售后客服2

在线售后,实时响应

渠道/企业/大客户合作

大汉:153-0544-5551
芝麻HTTP公众号 微信客服