时间:2021-07-01 10:21:17 帮助过:117人阅读
抓取的是电影天堂里面最新电影的页面。链接地址: http://www.dytt8.net/html/gndy/dyzz/index.html
获取页面的中电影详情页链接
import urllib2
import os
import re
import string
# 电影URL集合
movieUrls = []
# 获取电影列表
def queryMovieList():
url = 'http://www.dytt8.net/html/gndy/dyzz/index.html'
conent = urllib2.urlopen(url)
conent = conent.read()
conent = conent.decode('gb2312','ignore').encode('utf-8','ignore')
pattern = re.compile ('.*?>
'+
'https://img.gxlcms.com/(.*?) ',re.S)
items = re.findall(pattern,conent)
str = ''.join(items)
pattern = re.compile ('https://img.gxlcms.com/(.*?).*? https://img.gxlcms.com/(.*?) ',re.S)
news = re.findall(pattern, str)
for j in news:
movieUrls.append('http://www.dytt8.net'+j[0])
抓取详情页中的电影数据
def queryMovieInfo(movieUrls):
for index, item in enumerate(movieUrls):
print('电影URL: ' + item)
conent = urllib2.urlopen(item)
conent = conent.read()
conent = conent.decode('gb2312','ignore').encode('utf-8','ignore')
movieName = re.findall(r'https://img.gxlcms.com/(.*?)
', conent, re.S)
if (len(movieName) > 0):
movieName = movieName[0] + ""
# 截取名称
movieName = movieName[movieName.find("《") + 3:movieName.find("》")]
else:
movieName = ""
print("电影名称: " + movieName.strip())
movieContent = re.findall(r'https://img.gxlcms.com/(.*?)',conent , re.S)
pattern = re.compile('https://img.gxlcms.com/(.*?)', re.S)
movieDate = re.findall(pattern,movieContent[0])
if (len(movieDate) > 0):
movieDate = movieDate[0].strip() + ''
else:
movieDate = ""
print("电影发布时间: " + movieDate[-10:])
pattern = re.compile('
https://img.gxlcms.com/(.*?)
0):
movieInfo = movieInfo[0]+''
# 删除
标签
movieInfo = movieInfo.replace("
","")
# 根据 ◎ 符号拆分
movieInfo = movieInfo.split('◎')
else:
movieInfo = ""
print("电影基础信息: ")
for item in movieInfo:
print(item)
# 电影海报
pattern = re.compile(' ', re.S)
movieImg = re.findall(pattern,movieContent[0])
if (len(movieImg) > 0):
movieImg = movieImg[0]
else:
movieImg = ""
print("电影海报: " + movieImg)
pattern = re.compile('.*? ', re.S)
movieDownUrl = re.findall(pattern,movieContent[0])
if (len(movieDownUrl) > 0):
movieDownUrl = movieDownUrl[0]
else:
movieDownUrl = ""
print("电影下载地址:" + movieDownUrl + "")
print("------------------------------------------------\n\n\n")
执行抓取
if __name__=='__main__':
print("开始抓取电影数据");
queryMovieList()
print(len(movieUrls))
queryMovieInfo(movieUrls)
print("结束抓取电影数据")
总结
学好正则表达式很重要,很重要,很重要!!!! Python的语法好有感觉, 对比Java …
人气教程排行
-
384次
1
对Python2.7pandas中的read_excel详解
-
383次
2
Python实现定时弹窗提醒
-
383次
3
python爬虫入门(3)--利用requests构建知乎API
-
382次
4
python如何爬取搜狗微信公众号文章永久链接的思路解析
-
381次
5
python字典的键可以相同吗
-
381次
6
python是一种面向什么的语言?
-
381次
7
python通过pil为png图片填充上背景颜色的方法
-
380次
8
python语言的编程模式有什么
-
380次
9
使用python获取进程pid号的方法
-
380次
10
Python中如何解决无限循环的问题
-
378次
11
怎么解决pip不是内部或外部命令
-
378次
12
python中def是什么意思
-
376次
13
对numpy中数组元素的统一赋值实例
-
374次
14
python的选择语句是什么语句
-
374次
15
Python中构造方法的解析(附示例)
-
373次
16
关于python中引入导入与自定义模块以及外部文件的实例分享
-
372次
17
python如何在不同类之间调用方法
-
372次
18
python中的【//】是什么运算符号
-
371次
19
python中╲t是什么
-
371次
20
python同时给多个变量赋值