2020年度  第2期


标题:基于Selenium框架的大数据岗位数据爬取与分析
作者:高艳
作者单位:山西农业大学信息学院,山西 太谷 030800
关键字:Selenium框架;Python;大数据;爬虫
摘要:在对网页数据进行爬取时,由于很多网页不是静态的HTML文档,而是包含很多JavaScript程序,使用传统的爬虫方法不能有效地获得所需要的信息,采用Selenium模拟浏览器访问网站的方法以及Python语言对拉勾网中大数据相关岗位数据进行了爬取,并且对大数据开发工程师、大数据研发工程师以及大数据架构师这三个岗位中岗位的任职要求数据进行了分析,用词云进行了展示,可以为数据科学与大数据技术专业培养方案的制定以及相关课程授课学时的设计提供一定的依据。