get_text()的用法

该博客展示了使用Python获取网页文字内容的代码。运用了requests库发送请求,BeautifulSoup库解析HTML,定义了获取URL列表及内容的函数,通过设置请求头模拟浏览器访问,最后调用函数获取指定网页文字内容,操作简便。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

from bs4 import BeautifulSoup
import requests
import codecs
import os
import re
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}

def get_url_list(url):
    html = requests.get(url,headers)
    soup = BeautifulSoup(html.content, 'lxml')    
    con_list = []
    x1 = soup.find('div',attrs={'id':'content'})
    print(x1.get_text())
                   
    
if '__main__' == __name__:
    url = 'http://www.xinshubao.net/22/22070/3179772_2.html'
    url_list = get_url_list(url)

获取文字内容非常简便

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值