当前位置: 首页 > news >正文

文化建设设计网站提供手机自适应网站

文化建设设计网站,提供手机自适应网站,成都网站建设收费明细,进入网络管理的网站转载:蚂蚁学python 网址:【【2021最新版】Python 并发编程实战,用多线程、多进程、多协程加速程序运行】 https://www.bilibili.com/video/BV1bK411A7tV/?p8&share_sourcecopy_web&vd_sourced0ef3d08fdeef1740bab49cdb3e96467实战案…

转载:蚂蚁学python 网址:【【2021最新版】Python 并发编程实战,用多线程、多进程、多协程加速程序运行】 https://www.bilibili.com/video/BV1bK411A7tV/?p=8&share_source=copy_web&vd_source=d0ef3d08fdeef1740bab49cdb3e96467

实战案例:

对于网络爬虫来讲是属于I/O 操作,比较适用多线程爬虫,多进程就不太适合,如果对协程分支异步编程asyncio 较为熟悉的话,也很方便。

小项目任务:获取博客园文章标题,以及访问连接,当然你也可以去访问本网站csdn

需要改变的代码部分,访问网址,以及通过正则提取网页数据

网页请求代码:(这里只是通过单线程串行的方式获取了一页数据)

blog_spider 文件(先创建这样以 blog_spider 命名的python文件)

import requests
import re
urls = [f"https://www.cnblogs.com/#p{page}"for page in range(1,51)]
def craw(url):r = requests.get(url).textreturn rdef parse(html):url_Data = re.findall('<a class="post-item-title" href="(.*?)" target="_blank">(.*?)</a>',html)return url_Data
if __name__ == '__main__':for result in parse(craw(urls[3])):print(result)

在创建一个名为 :thread_pool python文件

import concurrent.futures
import pprintimport blog_spider
#这里是导入自己写的一个包,我的理解是封装成一个包或者是模块可以供其他python文件调用
with concurrent.futures.ThreadPoolExecutor() as pool:htmls = pool.map(blog_spider.craw,blog_spider.urls)htmls = list(zip(blog_spider.urls,htmls))for url,html in htmls:print(url,len(html))
print("craw over")
with concurrent.futures.ThreadPoolExecutor()as pool:futures = {}for url,html in htmls:future = pool.submit(blog_spider.parse,html)futures[future] = urlfor future in concurrent.futures.as_completed(futures):url = futures[future]print(url,future.result())

关于多进程和多线程的关系:

进程适用cpu密集型,线程适用IO密集型,线程是由进程所创建的,创建一个进程,会自动帮你创建一个主线程,由主线程可以创建其他子线程,线程的数量是有限的,因为python由于 GIL(全局事务解释器)锁的限定,无论你是多核cpu但是只允许你在同一时间执行一个线程,在请求IO时,线程是在不定时进行切换的会损耗一定的资源,如果线程数量过多,线程的切换开销过大,这样就会抵消多线程带来的速度优势。

第五十页请求到的数据

看看获取的数据是否正确

检查了一下,的确数据不对,有可能是反扒机制识别,等待时间,和网址信息填充存在问题,我已经排除,我太忙了有时间我会在看看。

http://www.yayakq.cn/news/855260/

相关文章:

  • 网站留言板模版漯河网站超市建设
  • 菏泽网站建设制作wordpress禁止调用头部
  • 网站做视频的软件做网站设计制作的
  • 上海做saas平台网站的公司个人怎么做课程网站
  • 企业网站建设与网页设计ui设计个人作品集
  • 谷多网站百度集团总部在哪里
  • 做不了大流量网站足球比赛直播平台app免费
  • 建设银行天津招聘网站滨州市住房和城乡建设部网站
  • 网站内部优化经典案例网站
  • 深圳建企业网站公司网络营销软件下载
  • 宠物网站怎么做网站维护提示怎么做
  • 网站页脚怎么做能好看点做网站怎么选择服务器的大小
  • 广元网站建设价格wordpress query_post showpost参数
  • 南沙商城网站建设做的网站显示不了背景图片
  • 合肥++网站建设网上哪个网站教做西点
  • 哪里有做营销型网站的公司潍坊住房和城乡建设厅网站电话
  • 手机电脑网站一站式仓库管理系统界面
  • 端子东莞网站建设广州市番禺区住房和建设局网站
  • 网站设计建设一般多少钱山河集团建设有限公司网站
  • 旅行社网站设计方案照片做成视频的软件
  • 光谷网站建设哪家好建设银行网站不能登录不了
  • 广州pc网站建设网站建设游戏开发
  • 百度网盟 网站定向投放wordpress支付配置
  • ftp免费网站空间网站做好怎么开始做推广
  • 湖北长城建设实业有限公司网站烟台网站建设 58
  • 正规的网站建设学习网查网站关键词工具
  • 利用html5 监控网站性能做办公设备网站
  • vs2013做登录网站室内装修效果图制作
  • 网站开发的关系图和e-r图高端品牌网站定制
  • 响应式自适应织梦网站模板购物网站模板