Python BeautifulSoup的find()和findAll()
原创文章,作者:StubbornHuang,如若转载,请注明出处:《Python BeautifulSoup的find()和findAll()》https://www.stubbornhuang.com/355/
1 参数以及比较
BeautifulSoup的find()和findAll()这两个函数在某些方面十分的相似,我们可以使用它们过滤HTML页面,并查找需要的标签组和单个的标签。
这两个函数非常的相似:
findAll(tag,attributes,recursive,text,limit,keywords)
find(tag,attributes,recursive,text,keywords)
(1) 标签参数tag:可以传递一个标签的名称或多个标签名称组成的Python列表做标签参数。
如:findAll({"tag1","tag2","tag3","tag4"})
(2)属性参数attributes是用一个Python字典封装一个标签的若干属性和对应的属性值。
如:返回HTML文档中attribute1和attribute2属性的tag标签
findAll("tag",{"classs":{"attribute1","attribute2"}})
(3)递归参数recursive是一个布尔变量。如果你想知道所抓取的HTML文档标签结构中有多少层的信息,如果recursive设置为True,findAll就会根据你的要求去查找标签参数的所有子标签以及子标签的子标签。如果recursive设置为False,findAll就只会查找文档的以及标签。findAll默认支持递归查找(recursive的默认值是True),一般情况下不需要设置该参数。只是当你真正了解自己需要哪些信息,而且抓取速度非常重要时,就可以视情况设置递归参数。
(4) 文本参数text是使用标签中的文本内容去进行匹配,而不是标签的属性。
如果我们需要查询某个网页中包含"the text"内容的文本数量,我们可以使用以下语句
namelist=bsObj.findAll(text="the text")
print(len(namelist))
(5)范围限制参数limit,只能用于findAll方法。find()方法等价与findAll()方法limit参数等于1时的情形。如果你只对网页中获取的前x项感兴趣,就可以设置它。但是要注意的是这个参数设置之后获取的前几项结果是按照网页上的顺序排序的,也有可能不是你想要的结果。
(6) 关键词参数keyword,可以让你选择那些具有指定属性的标签。
如:
alltext=bsObj.findAll(id="text")
print(allText[0].get_text())
(7) .get_text()会把你正在处理的HTML文档中的所有标签都清除,然后只返回一个只包含文字的字符串。如果你正在处理一个包含许多超链接、段落以及标签的大段源代码,那么get_text()会把这些超链接、段落、以及标签全都清除,剩下不带标签的文字。
通常在你准备打印,存储以及操作数据时,应该在最后再使用.get_text()去提取你想要的文本信息,在一般的情况下,应该尽可能的保留HTML文档的标签的结构。
当前分类随机文章推荐
- Pip - 常用命令(安装,卸载,升级第三方库)
- Python3爬虫 - requests的请求响应状态码(requests.status_code)
- opencv-python - 读取视频,不改变视频分辨率修改视频帧率
- Python BeautifulSoup的find()和findAll()
- Python3爬虫 - requests库的requests.exceptions所有异常详细说明
- Python3爬虫 - 下载反盗链图片的方式
- 解决Python爬虫在爬资源过程中使用urlretrieve函数下载文件不完全且避免下载时长过长陷入死循环,并在下载文件的过程中显示下载进度
- Python3 - 正则表达式去除字符串中的特殊符号
- 简单粗暴:使用pycharm安装对应的Python版本第三方包
- Python3爬虫 - requests库
全站随机文章推荐
- C++11 - std::bind简要介绍以及可绑定函数的几种形式总结
- FFmpeg - 音频处理基本概念以及音频重采样(采样率转换)
- 资源分享 - 《Linux命令行大全》.((美)William E.shotts,Jr)中文pdf下载
- 网站个性化 - 添加人形时钟 honehone_clock.js
- 资源分享 - Polygon Mesh Processing英文高清PDF下载
- C++11 - std::chrono - 使用std::chrono::duration_cast进行时间转换,hours/minutes/seconds/milliseconds/microseconds相互转换,以及自定义duration进行转换
- OpenCV - 新建一个图片,并在图片上画由一点到另一点的直线,采用反走样形式
- Windows - 虚拟按键Virtual-Key Codes大全
- 我的开源项目 - 3DPoseEstimation从2D视频中估计人物三维姿势,并生成BVH文件
- failed to find an available destination > EOF