Python BeautifulSoup的find()和findAll()
原创文章,作者:StubbornHuang,如若转载,请注明出处:《Python BeautifulSoup的find()和findAll()》https://www.stubbornhuang.com/355/
1 参数以及比较
BeautifulSoup的find()和findAll()这两个函数在某些方面十分的相似,我们可以使用它们过滤HTML页面,并查找需要的标签组和单个的标签。
这两个函数非常的相似:
findAll(tag,attributes,recursive,text,limit,keywords)
find(tag,attributes,recursive,text,keywords)
(1) 标签参数tag:可以传递一个标签的名称或多个标签名称组成的Python列表做标签参数。
如:findAll({"tag1","tag2","tag3","tag4"})
(2)属性参数attributes是用一个Python字典封装一个标签的若干属性和对应的属性值。
如:返回HTML文档中attribute1和attribute2属性的tag标签
findAll("tag",{"classs":{"attribute1","attribute2"}})
(3)递归参数recursive是一个布尔变量。如果你想知道所抓取的HTML文档标签结构中有多少层的信息,如果recursive设置为True,findAll就会根据你的要求去查找标签参数的所有子标签以及子标签的子标签。如果recursive设置为False,findAll就只会查找文档的以及标签。findAll默认支持递归查找(recursive的默认值是True),一般情况下不需要设置该参数。只是当你真正了解自己需要哪些信息,而且抓取速度非常重要时,就可以视情况设置递归参数。
(4) 文本参数text是使用标签中的文本内容去进行匹配,而不是标签的属性。
如果我们需要查询某个网页中包含"the text"内容的文本数量,我们可以使用以下语句
namelist=bsObj.findAll(text="the text")
print(len(namelist))
(5)范围限制参数limit,只能用于findAll方法。find()方法等价与findAll()方法limit参数等于1时的情形。如果你只对网页中获取的前x项感兴趣,就可以设置它。但是要注意的是这个参数设置之后获取的前几项结果是按照网页上的顺序排序的,也有可能不是你想要的结果。
(6) 关键词参数keyword,可以让你选择那些具有指定属性的标签。
如:
alltext=bsObj.findAll(id="text")
print(allText[0].get_text())
(7) .get_text()会把你正在处理的HTML文档中的所有标签都清除,然后只返回一个只包含文字的字符串。如果你正在处理一个包含许多超链接、段落以及标签的大段源代码,那么get_text()会把这些超链接、段落、以及标签全都清除,剩下不带标签的文字。
通常在你准备打印,存储以及操作数据时,应该在最后再使用.get_text()去提取你想要的文本信息,在一般的情况下,应该尽可能的保留HTML文档的标签的结构。
当前分类随机文章推荐
- Python3爬虫 - 下载反盗链图片的方式
- Python3爬虫 - requests库的requests.exceptions所有异常详细说明
- Python BeautifulSoup的find()和findAll()
- opencv-python - 读取视频,不改变视频分辨率修改视频帧率
- Python3爬虫 - requests的请求响应状态码(requests.status_code)
- Python3 - 导入模块和函数
- 解决Python爬虫在爬资源过程中使用urlretrieve函数下载文件不完全且避免下载时长过长陷入死循环,并在下载文件的过程中显示下载进度
- Python:UnicodeEncodeError: 'gbk' codec can't encode character '\xbb' in position 12305,以及中文乱码的解决方案
- Pip - 常用命令(安装,卸载,升级第三方库)
- Python3爬虫 - requests库
全站随机文章推荐
- 资源分享 - Microsoft Voxelized Upper Bodies – A Voxelized Point Cloud Dataset下载
- 工具网站推荐 - 最好的8个免费下载Pbr贴图和材质的网站
- WordPress - 为文章增加评论才可查看相关隐藏内容的代码
- Centos7 - frp内网穿透,访问内网web服务/访问内网websocket服务
- 资源分享 - 8i Voxelized Full Bodies – A Voxelized Point Cloud Dataset下载
- Duilib - 点击程序关闭按钮最小化到托盘,点击托盘按钮恢复
- 资源分享 - 机器学习 (西瓜书) 周志华著PDF下载
- 资源分享 - 深度学习实战(杨云杜飞 清华大学出版社)高清pdf下载
- 资源分享 - Computer Graphics Principles and Practice (3rd edition) 英文高清PDF下载
- 资源分享 - Ray Tracing in a Weekend英文高清PDF下载