【python实战】【持续更新】爬取某发卡网订单

9527

网站已打码，代码拿出来大家一起学习讨论，有问题的地方还请大佬不吝赐教

学习内容

---

爬取某发卡网的购买记录.（初步考虑穷举法爬取）

学习过程

---

添加必要的库，创建一个BUY类

1.             import  requests,re,xlwt

复制代码

class Color:

1. def __init__(self):
   
2.     '''添加请求头'''
   
3.     self.headers = {
   
4.         'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 '
   
5.                       '(KHTML, like Gecko) Chrome/87.0.4280.141 Safari/537.36',
   
6.     }
   
7.     #添加查询订单地址
   
8.     self.port = 'http://xxxxxx.xxfaka.cn/?mod=query&data=xxxxxxxxxxx'
   
9. 
   
10. '''请求视频网页链接'''
    
11. def request_link(self):
    
12.     self.response = requests.get(self.port, headers=self.headers)
    
13.     self.html = self.response.text
    
14.     print(self.html)
    
15. 
    
16.     if __name__ == '__main__':
    
17.     app= Color()
    
18.     app.request_link()

复制代码

直接运行发现拿到的数据是这样的（有点多就不全显示了）

var sec_defend_time……etCookie'sec_defend_time'…[][+!![]]+![]+[][+…

后来搜了点资料发现可能需要加cookie，然后又去网页找到cookie添加到请求头，然后headers就成这样了

1.     self.headers = {
   
2.                                                     'Cookie':'mysid=bcd178f6a7784bdaf63c03e321cfb77a; PHPSESSID=gml9nd9psrik73840v6jem6mm4; sec_defend=baa2a7703f2f3326fa7a366428aef295ac40ff679f2fec0284578de88e87bcac; sec_defend_time=1',
   
3.                                                     'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 '
   
4.                                                                                                             '(KHTML, like Gecko) Chrome/77.0.3560.141 Safari/537.36',
   
5.                                     }

复制代码

我们再次运行代码就可以拿到网页数据了

初步打算一次直接匹配一个订单全部消息，但是发现有对括号导致一直匹配内容为空

1.     </span>  (<font size="2" color="#836FFF">2020-12-24 01:09:09</font>)<br>…太长了…<hr>

复制代码

我用俩个replace将括号替换为空

1.     self.html = self.html.replace('(','')
   
2.     self.html = self.html.replace(')', '')
   
3.     re.findall(r'…(.*?)…(.*?)…',self.html)

复制代码

就这样直接匹配了六七个(.?)内容，发现总是不能准确扣到具体内容，有可能好几条订单被扣到一个(.?)里面。于是就换了个思路，一条语句扣一个内容，之后在for循环将对应数据放到一个列表，然后整体再放入列表组成二维列表

1.             #获取订单时间
   
2.             self.order_time = re.findall(r'<font size=".*?" color="#836FFF">(.*?)</font>.*?<br><h4>商品名称：<a href="\./\?mod=buy&tid=\w?\w?\w?\w?">(.*?)</a></h4>联系方式：.*?总价<font color=".*?">(.*?)</font>元.*?</strong></font>(.*?)<hr>',self.html)
   
3.     #获取商品名称
   
4.     self.pur_info = re.findall(r'',self.html)
   
5.     #获取订单联系方式
   
6.     self.contact_info = re.findall(r'',self.html)
   
7.     #获取订单总价
   
8.     self.price_total = re.findall(r'总价<font color=".*?">(.*?)</font>元',self.html)
   
9.     #获取账号不完全信息
   
10.     self.km_info = re.findall(r'</strong></font>(.*?)<hr>',self.html)
    
11.     #获取下单总数
    
12.     self.num_total = re.findall(r'<li><span class="rows">共(.*?)条</span> </li>', self.html)
    
13.             temp_info =[]
    
14.         for i in range(0,len(self.order_time)):
    
15.                     for lie in range(0,6):#lie
    
16.                             temp_info.append(self.order_time[lie])
    
17.                             temp_info.append(self.pur_info[lie])
    
18.                             temp_info.append(self.contact_info[lie])
    
19.                             temp_info.append(self.price_total[lie])
    
20.                             temp_info.append(self.km_info[lie])
    
21.                             temp_info.append(self.num_total[0])
    
22.                     temp_info.append(''.join(temp_info))
    
23.                     self.account_info.append(list(temp_info))
    
24.             print(self.account_info)

复制代码

写出来基本就是上面这样，运行发现四五秒以后直接卡死，然后，，，，半小时没动断点重新开机了，代码没保存今天再运行append那就报错了，想了半天没想出来就打算放弃这种方法，重新回到之前的思路，把数据一次都提取出来，既然这单个的都准确提取了，没准放到一起就可以了呢。想到就做把每个放到一起连接起来运行，结果直接生成了二维数据，成了！！！

然后我们开始转二维列表

1.     for i in range(0,len(self.info)):
   
2.             self.info[i] = list(self.info[i])
   
3. 
   
4.     #通过这里来判断订单的三种情况
   
5.     km_info = re.findall(r'>账号信息：(.*?)</b><br>',self.info[i][5])
   
6.     if km_info==[]:
   
7.             km_info = re.findall(r'</b><span class="(.*?)">卡密可能漏发,请联系客服</span>',self.info[i][5])
   
8.     if km_info == []:
   
9.             km_net = re.findall(r'<br>卡密操作：<a href=".(.*?)" title="点击查看卡密"><button', self.info[i][5])
   
10.             km_net = self.port +(''.join(km_net))#多张卡密提取链接
    
11.             #尚未完成一个单子多张卡密提取
    
12.     self.info[i][5] = km_info

复制代码

到这里就初步的提取工作就完成了

---

PS：后面写的代码目前还没到自己想要的效果就先不放了，帖子后续会持续更新

发帖不易，小伙伴给个免费的评分，支持我一下，非常感谢

daxiong1114

感谢楼主分享

游鱼艺

6666666666

cmxy521

多谢分享多谢分享

你要懂事哦

谢谢大佬

yzx2425

谢谢分享

li662593

谢谢大牛

lyw20yys

谢谢分享！

alonghale

谢谢大佬分享