站内公告:
2024-09-09 13:02:35
先统一引入本次爬取信息所需要的库文件
?
URL的网页内容:通过在headers里面添加相关信息,以此来达到代码模拟浏览器向服务器发送的信息的目的
这里需要注意不同的网页的编码格式有可能不同,例如:‘utf-8’,‘gb2312’等相关类型
爬取网页
原始地址
?选择不同队进行跳转
通过观察目标网址,当我们选择不同球队时,目标网址会在之前的网址前加上对应球队的英文名,以此来进行网页的跳转
因此当我们需要爬取所有球队的全部球员时,只需要将所有队名放入在一个列表中,然后使用一个for循环对列表进行遍历,然后与原始URL进行拼接,以此来达到访问所有球队球员的目的
网页解析
目前就可以拿取到所有球队的网页源码(部分示例)
?当我们拿到网页源码之后,对其进行分析,根据我们需要拿到的数据使用正则表达式和BeaytifulSoup相关规则进行提取
正则表达式代码示例:
页面解析示例代码:
此时我们爬取下来的数据是每一类放置在一个列表中
?因为我们后面需要将爬取到的数据放置在数据库中,我们需要按照一个球员一个列表的形式进行存储,所以利用循环将每一个球员的信息遍历出来
打印结果
到达这个阶段我们已经将所需要的信息爬取整理完毕,接下来就是存储到数据库中
使用sql语句创建数据表
数据存储
数据库中
?
?