储存数据，带参数爬虫，json

最新推荐文章于 2025-12-18 10:59:28 发布

原创最新推荐文章于 2025-12-18 10:59:28 发布 · 219 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python

本文介绍使用Python进行数据爬取的实践案例，包括从豆瓣网站抓取电影评论并保存至Excel，以及从腾讯音乐平台爬取五月天的歌曲信息。通过解析网页源码，利用requests和BeautifulSoup库完成数据获取，展示了如何处理反爬虫策略及参数化爬虫技巧。

储存数据，带参数爬虫，json

之前上课时写的一些练习代码，上传一下

爬电影到excel文件

import requests, bs4 ,openpyxl

# 创建工作簿
wb=openpyxl.Workbook()  
# 获取工作簿的活动表
sheet=wb.active 
# 工作表重命名
sheet.title='movie_comments' 

sheet['A1'] ='序号'     # 加表头，给A1单元格赋值
sheet['B1'] ='电影名'   # 加表头，给B1单元格赋值
sheet['C1'] ='评分'   # 加表头，给C1单元格赋值
sheet['D1'] ='评语'   # 加表头，给D1单元格赋值
sheet['E1'] ='播放链接'   # 加表头，给E1单元格赋值

#反爬虫请求头
headers={'user-agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
for x in range(10):
    url = 'https://movie.douban.com/top250?start=' + str(x*25) + '&filter='
    res = requests.get(url, headers=headers)
    bs = bs4.BeautifulSoup(res.text, 'html.parser')
    bs = bs.find('ol', class_="grid_view")
    for titles in bs.find_all('li'):
        num = titles.find('em',class_="").text
        title = titles.find('span', class_="title").text
        comment = titles.find('span',class_="rating_num").text
        url_movie = titles.find('a')['href']

        if titles.find('span',class_="inq") != None:
            tes = titles.find('span',class_="inq").text
            print(num + '.' + title + '——' + comment + '\n' + '推荐语：' + tes +'\n' + url_movie)
        else:
            tes='无评语'
            print(num + '.' + title + '——' + comment + '\n' +'\n' + url_movie)
        sheet.append([num,title,comment,tes,url_movie])  

# 最后保存并命名这个Excel文件        
wb.save('movie.xlsx')

List item

带参数爬虫

import requests,openpyxl
# 创建工作簿
wb=openpyxl.Workbook()  
# 获取工作簿的活动表
sheet=wb.active 
# 工作表重命名
sheet.title='lyrics' 

sheet['A1'] ='歌曲名'     # 加表头，给A1单元格赋值
sheet['B1'] ='所属专辑'   # 加表头，给B1单元格赋值
sheet['C1'] ='播放时长'   # 加表头，给C1单元格赋值
sheet['D1'] ='播放链接'   # 加表头，给D1单元格赋值

url = 'https://c.y.qq.com/soso/fcgi-bin/client_search_cp'
for x in range(5):
    params = {
        'ct': '24',
        'qqmusic_ver': '1298',
        'new_json': '1',
        'remoteplace': 'txt.yqq.song',
        'searchid': '64405487069162918',
        't': '0',
        'aggr': '1',
        'cr': '1',
        'catZhida': '1',
        'lossless': '0',
        'flag_qc': '0',
        'p': str(x + 1),
        'n': '20',
        'w': '五月天',
        'g_tk': '5381',
        'loginUin': '0',
        'hostUin': '0',
        'format': 'json',
        'inCharset': 'utf8',
        'outCharset': 'utf-8',
        'notice': '0',
        'platform': 'yqq.json',
        'needNewCode': '0'
    }

    res_music = requests.get(url, params=params)
    json_music = res_music.json()
    list_music = json_music['data']['song']['list']
    for music in list_music:
        # 以name为键，查找歌曲名，把歌曲名赋值给name
        name = music['name']
        # 查找专辑名，把专辑名赋给album
        album = music['album']['name']
        # 查找播放时长，把时长赋值给time
        time = music['interval']
        # 查找播放链接，把链接赋值给link
        link = 'https://y.qq.com/n/yqq/song/' + str(music['mid']) + '.html\n\n'
        # 把name、album、time和link写成列表，用append函数多行写入Excel
        sheet.append([name,album,time,link])  
        print('歌曲名：' + name + '\n' + '所属专辑:' + album +'\n' + '播放时长:' + str(time) + '\n' + '播放链接:'+ link)
        
# 最后保存并命名这个Excel文件        
wb.save('Mayday.xlsx')