项目作者: itzujun

项目描述 :
网络妹子网站数据爬虫
高级语言: Python
项目地址: git://github.com/itzujun/meizi.git
创建时间: 2019-01-17T09:52:55Z
项目社区:https://github.com/itzujun/meizi

开源协议:

下载


妹子爬虫

-爬虫多进程

  1. for per in downlist:
  2. threads = []
  3. for url in per: # 开启多线程下载
  4. filename = '%s/%s/%s.jpg' % (os.path.abspath('.'), dirName, k)
  5. k = k + 1
  6. t = Thread(target=self.download, args=[filename, url])
  7. t.start()
  8. threads.append(t)
  9. for t in threads: # 开启守护进程
  10. t.join()

爬虫结果