首先,我们来看一个Python抓取网页的库:urllib或urllib2。
那么urllib与urllib2有什么区别呢?
可以把urllib2当作urllib的扩增,比较明显的优势是urllib2.urlopen()可以接受Request对象作为参数,从而可以控制HTTP Request的header部。
做HTTP Request时应当尽量使用urllib2库,但是urllib.urlretrieve()函数以及urllib.quote等一系列quote和unquote功能没有被加入urllib2中,因此有时也需要urllib的辅助。
urllib.open()这里传入的参数要遵循一些协议,比如http,ftp,file等。例如:
urllib.open('http://')
urllib2的常见方法:
(1)info() 获取网页的Header信息
(2)getcode() 获取网页的状态码
(3)geturl() 获取传入的网址
(4)read() 读取文件的内容