当前位置: 首页 > news >正文

怎么用域名做网站企业建设电商网站

怎么用域名做网站,企业建设电商网站,博罗网页定制,做队徽的网站标题 1 统计要收集的关键词,制作一个文件夹2 爬取每一页的内容3 爬取标题和内容4 如果内容可以被查看,爬取评论内容5 将结果进行汇总,并且每个帖子保存为一个json文件,具体内容6 总结 1 统计要收集的关键词,制作一个文…

标题

  • 1 统计要收集的关键词,制作一个文件夹
  • 2 爬取每一页的内容
  • 3 爬取标题和内容
  • 4 如果内容可以被查看,爬取评论内容
  • 5 将结果进行汇总,并且每个帖子保存为一个json文件,具体内容
  • 6 总结

1 统计要收集的关键词,制作一个文件夹

例如,我要收集旅游相关的,就收集:
旅游、旅行、旅游攻略,这些词,做成一个txt文件。

用一个浏览器登录上小红书账号,然后记录写cookies,例如:
在这里插入图片描述

2 爬取每一页的内容

主要使用request,js模块,将爬取的内容保存为res,里面包含一页20条数据。

info = re.sub(r'"page":".*?"', f'"page":"{page}"', info)ret = js.call('get_xs', api, info, cookies["a1"])headers['x-s'], headers['x-t'] = ret['X-s'], str(ret['X-t'])response = requests.post(search_url, headers=headers, cookies=cookies, data=info.encode('utf-8'))res = response.json()

3 爬取标题和内容

从每一个note里面解析出标题,内容等信息。

result = {}result["title"] = data['note_card']['title']result["desc"] = data['note_card']['desc'].replace("\n", "").replace("\t", "")tags_temp = data['note_card']['tag_list']tags = []for tag in tags_temp:try:tags.append(tag['name'])except:passresult["tags"] = tagsresult["time"] = timestamp_to_str(data['note_card']['time'])

4 如果内容可以被查看,爬取评论内容

每个帖子里面的评论的单独的url,需要根据id号进行拼接,所以根据第3节获取的user-id,进行拼接,然后再用get进行访问,最后获得每条评论,注意有些帖子是不能被查看的,所以需要进行判断。

note_id = url.split('/')[-1]comments_url = "https://edith.xiaohongshu.com/api/sns/web/v2/comment/page?note_id={}&image_scenes=FD_WM_WEBP,CRD_WM_WEBP".format(note_id)response = requests.get(comments_url, headers=headers, cookies=cookies)res = response.json()comments = []for line in res["data"]["comments"]:comment_str = line["content"]comments.append(comment_str)

5 将结果进行汇总,并且每个帖子保存为一个json文件,具体内容

包含:标题,具体内容,标题,创建时间,评论内容。每个关键词一个文件夹。
在这里插入图片描述

6 总结

详细代码私聊,注意本内容没有爬取图片,如果需要可以添加。

http://www.yayakq.cn/news/451990/

相关文章:

  • 建投五公司网站数码网站建设维护
  • 网站后端建设网站建设 需求调研
  • 网站标题logo制作对网站建设安全性的要求
  • 一站式网络营销积分商城
  • 义乌购网站做代销怎么样最近国家新闻
  • 90设计网站官网电商网站用什么做的
  • 建网站平台安全性网站站点不安全
  • 阿里巴巴的网站二维码怎么做在线ui设计
  • 2021没封的网站uc建湖县建设局网站
  • 河北中冶润丰建设股份有限公司网站云安区市场网络营销方法
  • flash静态网站wordpress go页面如何使用方法
  • 技术支持 张家港网站建设长春地区网站建设
  • 网站多级栏目巴中免费网站建设
  • 网页创建网站做旅游网站的写手
  • 网站建设线框图做网站前提需要什么
  • 3合1网站建设公司wordpress替换
  • 西宁建一个网站公司黑白色调网站
  • php网站开发实用技术下载网站等比例缩放
  • 广州一起做的网站一起做网店官网下载
  • 昆明网站建设多少钱色彩搭配的网站
  • 网站开发要什么软件有哪些郑州公司网站建设服务
  • 邢台网站制作平台网站用cms
  • 网站建设 教案做专属淘客网站
  • 打开网址资料网站企业网站群建设
  • 都什么企业需要网站吗网站建设三网合一指的是什么
  • 怎么做同城商务网站长春百度搜索排名优化
  • html网页模板网站模板下载wordpress 侧边栏主题
  • 做一个配送网站网站开发技术的选择
  • 电脑行业网站模板网站建设中模版
  • 网站开发php和python辽宁省建设培训中心网站