黑松山资源网 Design By www.paidiu.com
一般来说,使用线程有两种模式, 一种是创建线程要执行的函数, 把这个函数传递进Thread对象里,让它来执行. 另一种是直接从Thread继承,创建一个新的class,把线程执行的代码放到这个新的class里。
实现多线程网页爬虫,采用了多线程和锁机制,实现了广度优先算法的网页爬虫。
先给大家简单介绍下我的实现思路:
对于一个网络爬虫,如果要按广度遍历的方式下载,它是这样的:
1.从给定的入口网址把第一个网页下载下来
2.从第一个网页中提取出所有新的网页地址,放入下载列表中
3.按下载列表中的地址,下载所有新的网页
4.从所有新的网页中找出没有下载过的网页地址,更新下载列表
5.重复3、4两步,直到更新后的下载列表为空表时停止
python代码如下:
#!/usr/bin/env python #coding=utf-8 import threading import urllib import re import time g_mutex=threading.Condition() g_pages=[] #从中解析所有url链接 g_queueURL=[] #等待爬取的url链接列表 g_existURL=[] #已经爬取过的url链接列表 g_failedURL=[] #下载失败的url链接列表 g_totalcount=0 #下载过的页面数 class Crawler: def __init__(self,crawlername,url,threadnum): self.crawlername=crawlername self.url=url self.threadnum=threadnum self.threadpool=[] self.logfile=file("log.txt",'w') def craw(self): global g_queueURL g_queueURL.append(url) depth=0 print self.crawlername+" 启动..." while(len(g_queueURL)!=0): depth+=1 print 'Searching depth ',depth,'...\n\n' self.logfile.write("URL:"+g_queueURL[0]+"........") self.downloadAll() self.updateQueueURL() content='\n>Depth '+str(depth)+':\n' self.logfile.write(content) i=0 while i<len(g_queueURL): content=str(g_totalcount+i)+'->'+g_queueURL[i]+'\n' self.logfile.write(content) i+=1 def downloadAll(self): global g_queueURL global g_totalcount i=0 while i<len(g_queueURL): j=0 while j<self.threadnum and i+j < len(g_queueURL): g_totalcount+=1 threadresult=self.download(g_queueURL[i+j],str(g_totalcount)+'.html',j) if threadresult!=None: print 'Thread started:',i+j,'--File number =',g_totalcount j+=1 i+=j for thread in self.threadpool: thread.join(30) threadpool=[] g_queueURL=[] def download(self,url,filename,tid): crawthread=CrawlerThread(url,filename,tid) self.threadpool.append(crawthread) crawthread.start() def updateQueueURL(self): global g_queueURL global g_existURL newUrlList=[] for content in g_pages: newUrlList+=self.getUrl(content) g_queueURL=list(set(newUrlList)-set(g_existURL)) def getUrl(self,content): reg=r'"(http://.+"' regob=re.compile(reg,re.DOTALL) urllist=regob.findall(content) return urllist class CrawlerThread(threading.Thread): def __init__(self,url,filename,tid): threading.Thread.__init__(self) self.url=url self.filename=filename self.tid=tid def run(self): global g_mutex global g_failedURL global g_queueURL try: page=urllib.urlopen(self.url) html=page.read() fout=file(self.filename,'w') fout.write(html) fout.close() except Exception,e: g_mutex.acquire() g_existURL.append(self.url) g_failedURL.append(self.url) g_mutex.release() print 'Failed downloading and saving',self.url print e return None g_mutex.acquire() g_pages.append(html) g_existURL.append(self.url) g_mutex.release() if __name__=="__main__": url=raw_input("请输入url入口:\n") threadnum=int(raw_input("设置线程数:")) crawlername="小小爬虫" crawler=Crawler(crawlername,url,threadnum) crawler.craw()
以上代码就是给大家分享的基python实现多线程网页爬虫,希望大家喜欢。
黑松山资源网 Design By www.paidiu.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
黑松山资源网 Design By www.paidiu.com
暂无评论...
更新日志
2024年10月09日
2024年10月09日
- 炉石传说最强术士卡组是哪个 术士最强天梯卡组推荐一览
- 炉石传说最强萨尔卡组是哪个 萨尔最强天梯卡组推荐一览
- 炉石传说最强潜行者卡组是哪个 潜行者最强天梯卡组推荐一览
- 银霞.1983-《爱迷惑我·我住小楼中》台湾复刻版[WAV+CUE]
- [雨果唱片]粤曲名家-《再折长亭柳》[WAV+CUE]
- 刘德华1998-你是我的女人[香港第二版][WAV]
- 压迫感谁最强?外媒评选恐怖游戏最佳女反派
- 还没正式发售:《寂静岭2:重制版》Steam玩家峰值近9000人
- 别搞政确了!超95%国外玩家反对强制包容性
- 《暗喻幻想:ReFantazio》试玩:ATLUS的自我挑战?
- 《憧憬成为魔法少女》第二季 反转魔法少女题材再掀热潮
- 海信AI电视E7N正式发布,引领AI画质新标杆
- 屠洪刚.2002-九九艳阳天【京文】【WAV+CUE】
- 齐秦.1996-丝路【东方】【WAV+CUE】
- 泳儿.2010-VINSELECTION新曲+精选2CD【英皇娱乐】【WAV+CUE】