Spark & Shine

点亮自己,照亮周边

Skip to content
  • 首页
  • Contiki OS
  • The ONE
  • 数据分析
  • 关于我
  • 留言
  • 更多
    • Qiankun SU
    • 网络编码
    • Stack Overflow
    • 旧博客
    • 至理名茶
    • 酬谢
  • 中文
    • English English

爬虫

抓取由jQuery动态产生的网页数据:以东方财富中的沪港通历史数据为例

2021-02-24 Updated: 2021-02-24 41

本文以东方财富中的沪港通历史数据为例,介绍如何获取由jQuery动态产生的网页数据。

Read more →

数据分析, 脚本语言 jQuery, 买入成交额, 动态网页, 沪港通, 爬虫 Leave a comment

爬虫与反爬:使用Selenium+ChromeDriver抓取动态网页

2021-02-07 Updated: 2021-02-07 170

本文介绍如何用Selenium抓取动态网页,包括Selenium+PhantomJS(已弃用)和Selenium+ChromeDriver。

Read more →

数据分析, 脚本语言 ChromeDriver, PhantomJS, Selenium, 动态网页, 爬虫 Leave a comment

爬虫与反爬:使用代理proxy

2020-08-30 Updated: 2021-02-08 2K

使用同一个IP地址频繁抓取数据,IP容易被封。可以使用代理解决这个问题。

Read more →

数据分析 proxy, 代理, 反爬, 爬虫 Leave a comment

爬虫与反爬:使用用户代理User-agent

2020-08-28 Updated: 2021-02-08 1.4K

网页抓取机器人容易被服务器识别并拒绝提供服务,通过网页请求指定用户代理User-agent为浏览器,将爬虫伪装成浏览器访问,从而提升爬取成功率。

Read more →

数据分析 fake-useragent, User Agent, 反爬, 爬虫, 用户代理 Leave a comment

Python爬取成语:从3字到12字

2015-07-24 Updated: 2016-01-11 1.6K

最近想看5个字成语域名注册情况(5个字的首字母,比如民以食为本,myswb.com),首先我需要一份5个字成语库。于是写了一个简单爬虫,索性将3个字到12个字全部爬下来。 Read more →

数据分析 Python, 成语, 爬虫 1 Comment

第一个爬虫程序:建立联系方式表格

2015-07-20 Updated: 2015-07-20 2.5K

实验室网页通常会有研究者的信息(如姓名、办公室、研究组、电子邮件),而且格式规整。写了一个简单Python爬虫程序,将同事的联系信息爬下来,建立一张联系方式表格。

Read more →

数据分析 BeautifulSoup, Python, 爬虫, 联系方式 1 Comment

赞赏

ABC Pay QRcode

喝茶吗?

Zhili Tea WeChat Public QRcode

分类目录

标签云

ns3 Python 数据集 代数 会议 发音规则 awk Ubuntu 使用笔记 消息 DTN Eclipse 代码高亮 application notes 基本语法 Latex 爬虫 地缘看世界 EC2 法语 MessageEventGenerator MySQL 布匿战争 法国 GTFS Packet Tracer 罗马 JCR 整理 迦太基 安装 The ONE 图卢兹 matplotlib AWS Java wordpress Markdown 网络编码 目录 英语 NetworkX beamer 词以类记 域名

近期评论

  • SparkAndShine发表在《留言》
  • 唐怡发表在《历史时间轴(中国、欧洲、世界)》
  • peter发表在《留言》
  • SparkAndShine发表在《优先级调度、优先级反转、优先级继承、优先级天花板》
  • SparkAndShine发表在《The ONE使用笔记:读取外部事件存在BUG》

最多浏览

  • 历史时间轴(中国、欧洲、世界) (181.5K)
  • 解决“The requested URL was not found on this server” (83.6K)
  • The ONE使用笔记:目录 (55.5K)
  • 《圆桌派》片尾曲 (53.5K)
  • WordPress目录下产生一堆随机文件 (51.4K)
  • 代数结构入门:群、环、域、向量空间 (38.1K)
Based on WordPress and Radiate | Total views: 1,517,273 | Total posts: 305