Python网络爬虫及数据采集技术其它上课时间:
培训对象:
1,系统架构师、系统分析师、高级程序员、资深开发人员。
培训内容:
课程收益:
1,全面了解Python爬虫的相关知识。2,学习Python爬虫的核心技术方法以及应用特征。3,深入使用Python在网络数据采集中的使用。课程大纲:
Python是一种面向对象、解释型计算机程序设计语言,Python是纯粹的自由软件,源代码和解释器CPython遵循GPL协议。是一个用于统计计算和统计制图的优秀工具,也是GNU的一个免费、源代码开放的软件。
Python语法简洁清晰,具有丰富和强大的库,能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。Python爬虫包括一套完整的数据采集、处理、计算系统,简便而强大的编程语言,可操纵数据的输入和输入,可实现分支、循环,用户可自定义功能。
本培训将对基于Python爬虫进行数据采集、处理、数据分析的方法深度剖析,并对Python爬虫原理及实现进行讲解。
一、培训对象
1,系统架构师、系统分析师、高级程序员、资深开发人员。
2,牵涉到网络采集、处理和规划的负责人、设计人员。
3,政府机关,金融保险、移动等以互联网信息为数据来源单位的负责人。
4,高校、科研院所牵涉到网络数据采集与数据处理的项目负责人。
二、学员基础
1,对IT系统设计有一定的理论与实践经验。
2,具备信息检索IR和大数据处理的基础知识。
3,有一定的python基础知识和开发经验。
三、师资
由业界知名云计算专家亲自授课:
杨老师 主要研究网络信息分析以及云计算相关技术,长期从事通信网管系统、网络信息处理、商务智能(BI)以及电信决策支持系统的研究开发工作,主持和参与了多个国家和省部级基金项目,具有丰富的工程实践及软件研发经验。
四、培训内容
第一讲网络爬虫基础
1.什么是网络爬虫
2.浏览网页的过程
3.URL的含义
4.环境的配置
第二讲Python爬虫基础知识
1.Python爬虫基础学习
2.Pythonurllib和urllib2库的用法
3.Python正则表达式
4.BeautifulSoup简介
5.爬虫框架Scrapy
第三讲Urllib库的基本使用
1.网页爬取示例
2.网页爬取方法
3.构造Requset
4.POST和GET数据传送
第四讲Urllib库的高级用法
1.设置Headers
2.Proxy(代理)的设置
3.Timeout设置
4.HTTP的PUT和DELETE方法
5.使用DebugLog
第五讲正则表达式
1.了解正则表达式
2.正则表达式的语法规则
3.正则表达式相关注解
4.PythonRe模块
第六讲BeautifulSoup的用法
1.BeautifulSoup的简介
2.BeautifulSoup安装
3.创建BeautifulSoup对象
4.BeautifulSoup对象种类
5.遍历文档树
第七讲开始采集
1.遍历单个域名
2.采集整个网站
3.通过互联网采集
4.用Scrapy采集
5.几个示例
第八讲存储数据和读取文档
1.媒体文件
2.把数据存储到CSV
3.MySQL与Python整合
4.读取纯文本和CSV文档
5.读取Word和.docx
第九讲自然语言处理基础
1.概括数据
2.马尔可夫模型
3.自然语言工具包
4.用NLTK做统计分析
5.用NLTK做词性分析
第十讲用爬虫测试网站
1.测试简介
2.Python单元测试
3.Selenium单元测试
4.Python单元测试与Selenium单元测试的选择
五、培训目标
1,全面了解Python爬虫的相关知识。
2,学习Python爬虫的核心技术方法以及应用特征。
3,深入使用Python在网络数据采集中的使用。
六、培训时间、地点
时间:2017年2月23日-2月24日 地点:北京
七、证书
培训结束,颁发中科院计算所职业培训中心“Python网络爬虫及数据采集技术”结业证书。
八、费用
培训费:5500元/人(含教材、证书、午餐、学习用具等)。住宿协助安排,费用自理。培训师介绍:
杨老师主要研究网络信息分析以及云计算相关技术,长期从事通信网管系统、网络信息处理、商务智能(BI)以及电信决策支持系统的研究开发工作,主持和参与了多个国家和省部级基金项目,具有丰富的工程实践及软件研发经验。