使用Python爬取小姐姐图片（beautifulsoup法）
(编辑：jimmy 日期: 2024/12/27 浏览：2)
Python有许多强大的库用于爬虫，如beautifulsoup、requests等，本文将以网站https://www.xiurenji.cc/XiuRen/为例（慎点！！），讲解网络爬取图片的一般步骤。
为什么选择这个网站？其实与网站的内容无关。主要有两项技术层面的原因：①该网站的页面构造较有规律，适合新手对爬虫的技巧加强认识。②该网站没有反爬虫机制，可以放心使用爬虫。
第三方库需求
- beautifulsoup
- requests
步骤
打开网站，点击不同的页面：
发现其首页是https://www.xiurenji.cc/XiuRen/，而第二页是https://www.xiurenji.cc/XiuRen/index2.html，第三页第四页以此类推。为了爬虫代码的普适性，我们不妨从第二页以后进行构造url。
选中封面图片，点击检查：
可以发现，图片的信息，都在'div',class_='dan'里，而链接又在a标签下的href里。据此我们可以写一段代码提取出每一个封面图片的url：
def getFirstPage(page):
url='https://www.xiurenji.cc/XiuRen/index'+str(page)+'.html'#获得网站每一个首页的网址
res=requests.get(url)#发送请求
res.encoding="gbk"#设置编码方式为gbk
html=res.text
soup=BeautifulSoup(html,features='lxml')
lists=soup.find_all('div',class_='dan')#找到储存每一个封面图片的标签值
urls=[]
for item in lists:
url1=item.find('a').get('href')#寻找每一个封面对应的网址
urls.append('https://www.xiurenji.cc'+url1)#在列表的尾部添加一个元素，达到扩充列表的目的，注意要把网址扩充完整
return urls#返回该主页每一个封面对应的网址
点击封面图片，打开不同的页面，可以发现，首页的网址是https://www.xiurenji.cc/XiuRen/xxxx.html，而第二页的网址是https://www.xiurenji.cc/XiuRen/xxxx_1.html，第三第四页同理。同样为了普适性，我们从第二页开始爬取。
右键，点击“检查”：
可以发现所有的图片信息都储存在'div',class_='img'中，链接、标题分别在img标签中的src和alt中，我们同样也可以将它们提取出来。
def getFirstPage(page):
url='https://www.xiurenji.cc/XiuRen/index'+str(page)+'.html'#获得网站每一个首页的网址
res=requests.get(url)#发送请求
res.encoding="gbk"#设置编码方式为gbk
html=res.text
soup=BeautifulSoup(html,features='lxml')
lists=soup.find_all('div',class_='dan')#找到储存每一个封面图片的标签值
urls=[]
for item in lists:
url1=item.find('a').get('href')#寻找每一个封面对应的网址
urls.append('https://www.xiurenji.cc'+url1)#在列表的尾部添加一个元素，达到扩充列表的目的，注意要把网址扩充完整
return urls#返回该主页每一个封面对应的网址
完整代码
import requests
from bs4 import BeautifulSoup
def getFirstPage(page):
url='https://www.xiurenji.cc/XiuRen/index'+str(page)+'.html'#获得网站每一个首页的网址
res=requests.get(url)#发送请求
res.encoding="gbk"#设置编码方式为gbk
html=res.text
soup=BeautifulSoup(html,features='lxml')
lists=soup.find_all('div',class_='dan')#找到储存每一个封面图片的标签值
urls=[]
for item in lists:
url1=item.find('a').get('href')#寻找每一个封面对应的网址
urls.append('https://www.xiurenji.cc'+url1)#在列表的尾部添加一个元素，达到扩充列表的目的，注意要把网址扩充完整
return urls#返回该主页每一个封面对应的网址
def download(urls):
for url1 in urls:
print("prepare to download pictures in "+url1)
getEveryPage(url1)#下载页面内的图片
print("all pictures in "+url1+"are downloaded")
def getEveryPage(url1):
total=0#total的作用：对属于每一个封面内的图片一次编号
for n in range (1,11):#每一个封面对应下载10张图，可自行调整
temp=url1.replace('.html','')
url2=temp+'_'+str(n)+'.html'#获得每一内部页面的网址
res=requests.get(url2)
res.encoding="gbk"
html=res.text
soup=BeautifulSoup(html,features='lxml')
lists1=soup.find_all('div',class_='img')#储存图片的路径
for item in lists1:
url=item.find('img').get('src')
title=item.find('img').get('alt')#获取图片及其标题
picurl='https://www.xiurenji.cc'+url#获取完整的图片标题
picture=requests.get(picurl).content#下载图片
address='D:\pythonimages'+'\\'#自定义保存图片的路径
with open(address+title+str(total)+'.jpg','wb') as file:#保存图片
print("downloading"+title+str(total))
total=total+1
file.write(picture)
if __name__ == "__main__":
page=int(input('input the page you want:'))
urls=getFirstPage(page)
download(urls)
本文仅供学习参考，切勿用作其他用途！