OpenVINOTM,给你看得见的未来!>>
电子产品世界 » 论坛首页 » 嵌入式开发 » 软件与操作系统 » 网络爬虫的本质与HTTP状态码

共3条 1/1 1 跳转至

网络爬虫的本质与HTTP状态码

菜鸟
2020-05-15 17:38:47    评分

使用HTTP GET协议获取数据,使用HTTP POST协议提交数据。

企业微信截图_15895274094716.png

客户端向服务器发送一个请求,请求头包含请求的方法、URL、协议版本、以及包含请求修饰符、客户信息和内容的类似于MIME的消息结构。

服务器以一个状态行作为响应,响应的内容包括消息协议的版本,成功或者错误编码加上包含服务器信息、实体元信息以及可能的实体内容。

通常HTTP消息包括客户机向服务器的请求消息和服务器向客户机的响应消息。这两种类型的消息由一个起始行,一个或者多个头域,一个指示头域结束的空行和可选的消息体组成。


在HTTP 请求执行的过程中,HttpClient 添加了下列和状态管理相关的的对象到执行上下文中:


  • http.cookiespec-registry :CookieSpecRegistry 实例代表了实际的cookie 规范注册表。 这个属性的值设置在本地内容中,优先于默认的。

  • http.cookie-spec :Cookiespec 实例代表了真实的cookie 规范。

  • http.cookie-origin : CookieOrigin 实例代表了真实的服务源服务器的详细信息。

  • http.cookie-store : CookieStore 实例代表了真实的cookie 存储。设置在本地内容中的这个属性的值优先于默认的。


  本地 HttpContext 对象可以被用来定制HTTP 状态管理内容,先于请求执行或在请求执行之后检查它的状态:


HttpClient httpclient=new DefaultHttpClient();

HttpContext localContext = new BasicHttpContext();

HttpGet httpget = new HttpGet("http://localhost:8080/");

HttpResponse reponse = httpclient.exectute(httpget,localContext);

CookieOrigin cookieOrigin = (CookieOrigin)localContext.getAttribut(ClientContext.COOKIE_ORIGIN);

System.out.println("Cookie oriin: "+cookieOrigin);

CookieSpce cookieSpce =  (CookieSpce)localContext.getAttribute(ClientContext.COOKIE_SPEC);


Cookie 是HTTP 代理和目标服务器可以交流保持会话状态信息的令牌或短包。HttpClient 使用Cookie 接口来代表抽象的Cookie 令牌。在他简单形式中HTTP 的cookie 几乎是名/值对。通常一个HTTP 的cookie 也包含一些属性,比如版本号,合法的域名,指定cookie 应用所在的源服务器URL 子集的路径,cookie 的最长有效时间。

Cookie 有两个版本,但版本0 被认为是不符合官方规范的。符合标准的cookie 的期望版本是1 。HttpClient 可以处理基于不同版本的cookie。如下实例

BasicClientCookie netscapeCookie = new BasicClientCookie("nanme","value");

netsacpeCookie.setVersion(0);

netsacpeCookie.steDomain(".mycompany.com");

netsacpeCookie.setPath("/");


如何生成Cookies

我们使用chrome driver来进行登录和cookie的生成

import os

import time

import zipfile


from selenium import webdriver

from selenium.common.exceptions import TimeoutException

from selenium.webdriver.common.by import By

from selenium.webdriver.support import expected_conditions as EC

from selenium.webdriver.support.ui import WebDriverWait


class GenCookies(object):

USER_AGENT = open('useragents.txt').readlines()

# 16yun 代理配置

PROXY_HOST = 't.16yun.cn'  #  proxy or host

PROXY_PORT = 31111  # port

PROXY_USER = 'USERNAME'  # username

PROXY_PASS = 'PASSWORD'  # password


@classmethoddef get_chromedriver(cls, use_proxy=False, user_agent=None):    manifest_json = """    {        "version": "1.0.0",        "manifest_version": 2,        "name": "Chrome Proxy",        "permissions": [            "proxy",            "tabs",            "unlimitedStorage",            "storage",            "<all_urls>",            "webRequest",            "webRequestBlocking"        ],        "background": {            "scripts": ["background.js"]        },        "minimum_chrome_version":"22.0.0"    }    """    background_js = """    var config = {            mode: "fixed_servers",            rules: {            singleProxy: {                scheme: "http",                host: "%s",                port: parseInt(%s)            },            bypassList: ["localhost"]            }        };    chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});    function callbackFn(details) {        return {            authCredentials: {                username: "%s",                password: "%s"            }        };    }    chrome.webRequest.onAuthRequired.addListener(                callbackFn,                {urls: ["<all_urls>"]},                ['blocking']    );    """ % (cls.PROXY_HOST, cls.PROXY_PORT, cls.PROXY_USER, cls.PROXY_PASS)    path = os.path.dirname(os.path.abspath(__file__))    chrome_options = webdriver.ChromeOptions()    if use_proxy:        pluginfile = 'proxy_auth_plugin.zip'        with zipfile.ZipFile(pluginfile, 'w') as zp:            zp.writestr("manifest.json", manifest_json)            zp.writestr("background.js", background_js)        chrome_options.add_extension(pluginfile)    if user_agent:        chrome_options.add_argument('--user-agent=%s' % user_agent)    driver = webdriver.Chrome(        os.path.join(path, 'chromedriver'),        chrome_options=chrome_options)    return driverdef __init__(self, username, password):    self.url = 'https://passport.weibo.cn/signin/login?entry=mweibo&r=https://m.weibo.cn/'    self.browser = self.get_chromedriver(use_proxy=True, user_agent=self.USER_AGENT)    self.wait = WebDriverWait(self.browser, 20)    self.username = username    self.password = passworddef open(self):    """    打开网页输入用户名密码并点击    :return: None    """    self.browser.delete_all_cookies()    self.browser.get(self.url)    username = self.wait.until(EC.presence_of_element_located((By.ID, 'loginName')))    password = self.wait.until(EC.presence_of_element_located((By.ID, 'loginPassword')))    submit = self.wait.until(EC.element_to_be_clickable((By.ID, 'loginAction')))    username.send_keys(self.username)    password.send_keys(self.password)    time.sleep(1)    submit.click()def password_error(self):    """    判断是否密码错误    :return:    """    try:        return WebDriverWait(self.browser, 5).until(            EC.text_to_be_present_in_element((By.ID, 'errorMsg'), '用户名或密码错误'))    except TimeoutException:        return Falsedef get_cookies(self):    """    获取Cookies    :return:    """    return self.browser.get_cookies()def main(self):    """    入口    :return:    """    self.open()    if self.password_error():        return {            'status': 2,            'content': '用户名或密码错误'        }    # 如果不需要验证码直接登录成功    cookies = self.get_cookies()    return {        'status': 1,        'content': cookies    }


if name == 'main':

result = GenCookies(

username='180000000',

password='16yun',

).main()

print(result)


服务器一般会使用cookie来标识用户,如果接受并带上该cookie继续访问,服务器会认为你是一个已标识的正常用户。因此,大部分网站需要使用cookie的来爬取内容。





关键词: http    

助工
2020-05-15 19:16:59    评分
2楼

感谢楼主分享


助工
2020-05-15 23:11:14    评分
3楼

原来还有这么多门道


共3条 1/1 1 跳转至

回复

匿名不能发帖!请先 [ 登陆 注册 ]