requests库是一个简介且简单的处理HTTP请求的第三方库
get()是获取网页最常用的方式,其基本使用方式如下
使用requests库获取HTML页面并将其转换成字符串后,需要进一步解析HTML页面格式,这里我们常用的就是beautifulsoup4库,用于解析和处理HTML和XML
下面这段代码便是爬取百度的信息并简单输出百度的界面信息
import requestsfrom bs4 import BeautifulSoupr=requests.get('http://panysize=99&providesalary=99&lonlat=0%2C0&radius=-1&ord_field=0&confirmdate=9&fromType=&dibiaoid=0&address=&line=&specialarea=00&from=&welfare=')r.encoding=r.apparent_encodingresult=r.textbs=BeautifulSoup(result,'html.parser')print(bs.prettify())u1=bs.find_all('u1',attrs={'class':'item_con_list'}) #这部分代码便是我们爬取的目标,51job网站上关于python职业的薪资print(len(u1))li=bs.find_all('span',attrs={'class':'t4'})for l in li: print(l.text)上面这段代码便是爬取51job网站上的与python相关职业的薪资
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。