Spark & Shine

spark me up, and shine my surroundings

Skip to content
  • Home
  • Contiki OS
  • The ONE
  • DA
  • About Me
  • Guest Book
  • More
    • Qiankun SU
    • Network Coding
    • Stack Overflow
    • Old Blog
    • Zhili Tea
    • Donation
  • English
    • 中文 中文

爬虫

抓取由jQuery动态产生的网页数据:以东方财富中的沪港通历史数据为例

2021-02-24 Updated: 2021-02-24 3.9K

本文以东方财富中的沪港通历史数据为例,介绍如何获取由jQuery动态产生的网页数据。

Read more →

Data Analysis, Script Language jQuery, 买入成交额, 动态网页, 沪港通, 爬虫 Leave a comment

爬虫与反爬:使用Selenium+ChromeDriver抓取动态网页

2021-02-07 Updated: 2021-02-07 3K

scrapy-anti-scrapy-use-selenium-chromedriver-scrapy-dynamic-webpage

本文介绍如何用Selenium抓取动态网页,包括Selenium+PhantomJS(已弃用)和Selenium+ChromeDriver。

Read more →

Data Analysis, Script Language ChromeDriver, PhantomJS, Selenium, 动态网页, 爬虫 Leave a comment

爬虫与反爬:使用代理proxy

2020-08-30 Updated: 2021-02-08 5.8K

使用同一个IP地址频繁抓取数据,IP容易被封。可以使用代理解决这个问题。

Read more →

Data Analysis proxy, 代理, 反爬, 爬虫 Leave a comment

爬虫与反爬:使用用户代理User-agent

2020-08-28 Updated: 2021-02-08 4.7K

网页抓取机器人容易被服务器识别并拒绝提供服务,通过网页请求指定用户代理User-agent为浏览器,将爬虫伪装成浏览器访问,从而提升爬取成功率。

Read more →

Data Analysis fake-useragent, User Agent, 反爬, 爬虫, 用户代理 1 Comment

Python爬取成语:从3字到12字

2015-07-24 Updated: 2016-01-11 3.9K

最近想看5个字成语域名注册情况(5个字的首字母,比如民以食为本,myswb.com),首先我需要一份5个字成语库。于是写了一个简单爬虫,索性将3个字到12个字全部爬下来。 Read more →

Data Analysis Python, 成语, 爬虫 1 Comment

第一个爬虫程序:建立联系方式表格

2015-07-20 Updated: 2015-07-20 6.7K

实验室网页通常会有研究者的信息(如姓名、办公室、研究组、电子邮件),而且格式规整。写了一个简单Python爬虫程序,将同事的联系信息爬下来,建立一张联系方式表格。

Read more →

Data Analysis BeautifulSoup, Python, 爬虫, 联系方式 1 Comment

WeChat Public

WeChat Public

Tag Cloud

罗马 Latex Markdown 数字 发音规则 整理 消息 ns3 Python Java The ONE wordpress Eclipse matplotlib 网络编码 NetworkX Ubuntu 法国 会议 数学 Packet Tracer AWS 迦太基 application notes awk GTFS 基本语法 代数 词以类记 代码高亮 使用笔记 EC2 法语 域名 地缘看世界 爬虫 数据集 beamer 英语 外部文件 安装 布匿战争 MessageEventGenerator MySQL 目录

Categories

Recent Comments

  • BUPTcxb on The ONE使用笔记:目录
  • jinbin tu on Bubble Rap数据集Infocom05, Hong-Kong, Cambrige, Infocom06, Reality
  • 数据分析:目录 – Spark & Shine on 代数方法求PageRank
  • 数据分析:目录 – Spark & Shine on 用Python操作MySQL数据库
  • 数据分析:目录 – Spark & Shine on NetworkX使用笔记:基本操作

Popular

  • 历史时间轴(中国、欧洲、世界) (267.7K)
  • 解决“The requested URL was not found on this server” (121.4K)
  • WordPress目录下产生一堆随机文件 (99.7K)
  • The ONE使用笔记:目录 (90.3K)
  • 《圆桌派》片尾曲 (78.9K)
  • 代数结构入门:群、环、域、向量空间 (76.5K)
Based on WordPress and Radiate | Total views: 3,175,929 | Total posts: 308