Spark & Shine

spark me up, and shine my surroundings

Skip to content
  • Home
  • Contiki OS
  • The ONE
  • DA
  • About Me
  • Guest Book
  • More
    • Qiankun SU
    • Network Coding
    • Stack Overflow
    • Old Blog
    • Zhili Tea
    • Donation
  • English
    • 中文 中文

爬虫

抓取由jQuery动态产生的网页数据:以东方财富中的沪港通历史数据为例

2021-02-24 Updated: 2021-02-24 2.4K

本文以东方财富中的沪港通历史数据为例,介绍如何获取由jQuery动态产生的网页数据。

Read more →

Data Analysis, Script Language jQuery, 买入成交额, 动态网页, 沪港通, 爬虫 Leave a comment

爬虫与反爬:使用Selenium+ChromeDriver抓取动态网页

2021-02-07 Updated: 2021-02-07 2.1K

scrapy-anti-scrapy-use-selenium-chromedriver-scrapy-dynamic-webpage

本文介绍如何用Selenium抓取动态网页,包括Selenium+PhantomJS(已弃用)和Selenium+ChromeDriver。

Read more →

Data Analysis, Script Language ChromeDriver, PhantomJS, Selenium, 动态网页, 爬虫 Leave a comment

爬虫与反爬:使用代理proxy

2020-08-30 Updated: 2021-02-08 4.7K

使用同一个IP地址频繁抓取数据,IP容易被封。可以使用代理解决这个问题。

Read more →

Data Analysis proxy, 代理, 反爬, 爬虫 Leave a comment

爬虫与反爬:使用用户代理User-agent

2020-08-28 Updated: 2021-02-08 3.6K

网页抓取机器人容易被服务器识别并拒绝提供服务,通过网页请求指定用户代理User-agent为浏览器,将爬虫伪装成浏览器访问,从而提升爬取成功率。

Read more →

Data Analysis fake-useragent, User Agent, 反爬, 爬虫, 用户代理 1 Comment

Python爬取成语:从3字到12字

2015-07-24 Updated: 2016-01-11 2.9K

最近想看5个字成语域名注册情况(5个字的首字母,比如民以食为本,myswb.com),首先我需要一份5个字成语库。于是写了一个简单爬虫,索性将3个字到12个字全部爬下来。 Read more →

Data Analysis Python, 成语, 爬虫 1 Comment

第一个爬虫程序:建立联系方式表格

2015-07-20 Updated: 2015-07-20 4.6K

实验室网页通常会有研究者的信息(如姓名、办公室、研究组、电子邮件),而且格式规整。写了一个简单Python爬虫程序,将同事的联系信息爬下来,建立一张联系方式表格。

Read more →

Data Analysis BeautifulSoup, Python, 爬虫, 联系方式 1 Comment

WeChat Public

WeChat Public

Tag Cloud

application notes Packet Tracer Java EC2 Ubuntu 数据集 法国 迦太基 NetworkX 整理 awk 发音规则 Eclipse 数学 布匿战争 爬虫 代数 地缘看世界 MySQL 英语 法语 域名 使用笔记 Python 代码高亮 ns3 GTFS matplotlib AWS Latex iteration MessageEventGenerator Markdown 会议 罗马 安装 消息 wordpress 网络编码 基本语法 数字 The ONE 目录 词以类记 beamer

Categories

Recent Comments

  • BUPTcxb on The ONE使用笔记:目录
  • jinbin tu on Bubble Rap数据集Infocom05, Hong-Kong, Cambrige, Infocom06, Reality
  • 数据分析:目录 – Spark & Shine on 代数方法求PageRank
  • 数据分析:目录 – Spark & Shine on 用Python操作MySQL数据库
  • 数据分析:目录 – Spark & Shine on NetworkX使用笔记:基本操作

Popular

  • 历史时间轴(中国、欧洲、世界) (243.4K)
  • 解决“The requested URL was not found on this server” (109.5K)
  • WordPress目录下产生一堆随机文件 (87.2K)
  • The ONE使用笔记:目录 (77.1K)
  • 《圆桌派》片尾曲 (70.6K)
  • 代数结构入门:群、环、域、向量空间 (62.6K)
Based on WordPress and Radiate | Total views: 2,540,774 | Total posts: 308