第1章 课程介绍
欢迎大家来到深度讲解Go语言的课堂。本课程将从基本语法讲起,逐渐深入,帮助同学深度理解Go语言面向接口,函数式编程,错误处理,测试,并行计算等元素,并带领大家实现一个分布式爬虫的实战项目。
1-1 课程导读
1-2 安装与环境
第2章 基础语法
量,常量,类型,选择,循环,函数,指针,本章节带领大家学习一门新语言所需的必备语法知识。让大家对Go语言有一个初步的认识!
2-1 变量定义
2-2 内建变量类型
2-3 常量与枚举
2-4 条件语句
2-5 循环
2-6 函数
2-7 指针
第3章 内建容器
本章节我们来学习数组,切片,Map和字符串。在Go语言中,我们一般不直接使用数组,而是使用切片来管理线性表结构,它的语法类似python的list,不过更强大哦。当然,Map和字符串的学习也是必不可少。掌握至此,我们就可以写一些简单的算法了,刷刷leetcode不在话下,我们就来试一试。…
3-1 数组
3-2 切片的概念
3-3 切片的操作
3-4 Map
3-5 Map例题
3-6 字符和字符串处理
第4章 面向“对象”
Go语言没有class,只有struct。我们来看看struct如何使用,Go语言给结构体定义类似方法或者成员函数的做法非常有特色。我们还将学习Go语言的包的概念,以及如何封装,如何扩展已有类型等。我们还将学习GOPATH和Go语言项目的目录结构,如何从网上下载依赖包等一系列项目相关的知识。我们将以“树”的结构和遍历作为贯穿本章…
4-1 结构体和方法
4-2 包和封装
4-3 扩展已有类型
4-4 GOPATH以及目录结构
第5章 面向接口
这一章我们从duck typing的概念开始学起,还将探讨其他语言中对duck typing的支持,由此引出接口的概念。我们将深入理解Go语言接口的内部实现以及使用接口实现组合的模式。
5-1 duck typing的概念
5-2 接口的定义和实现
5-3 接口的值类型
5-4 接口的组合
5-5 常用系统接口
第6章 函数式编程
在其他通用语言中,函数式编程是“高级”概念,但对于Go语言却非常基本。本章我们将讲解函数式编程的概念并且比较其他语言函数式编程的实现方法。我们将重点理解闭包。这章中我们将采用多样的例题来帮助大家更好的理解闭包,函数作为一等公民等及其常见概念和应用方法。…
6-1 函数式编程
6-2 函数式编程例一
6-3 函数式编程例二
第7章 错误处理和资源管理
这将是本课程最“无聊”的一章,但却是区分出优秀软件工程师的关键能力。Go语言独特的defer/panic/recover,以及错误机制,在社区有着广泛的争论。我们来深入理解Go语言的错误处理机制,看看Go语言如何区分错误以及异常。最后,我们实现一个Web应用微型项目,采用商业服务的错误处理思路,结合函数式编程,来演示Go语言错误…
7-1 defer调用
7-2 错误处理概念
7-3 服务器统一出错处理
7-4 panic和recover
7-5 服务器统一出错处理2
第8章 测试与性能调优
Go语言的测试不同于其他如junit,Go语言采用“表格驱动测试”的理念。我们将学习和体会这样的理念,并用Go语言的测试支持库来实践表格驱动测试,并做代码覆盖和性能检测,通过內建的性能调优工具来优化我们之前的算法。最后演示了对http服务器的多种粒度的测试。…
8-1 测试
8-2 代码覆盖率和性能测试
8-3 使用pprof进行性能调优
8-4 测试http服务器(上)
8-5 测试http服务器(下)
8-6 生成文档和示例代码
8-7 测试总结
第9章 Goroutine
这一章开始我们进入并发编程。我们讲解Goroutine,协程的概念,以及背后的Go语言调度器。
9-1 goroutine
9-2 go语言的调度器
第10章 Channel
Channel是Goroutine之间通信的桥梁,它和函数一样是一等公民。在介绍完Channel的语法及运行方式后,我们将采用数个例题来演示Go语言并发编程中最常见的任务极其解决模式。
10-1 channel
10-2 使用Channel等待任务结束
10-3 使用Channel进行树的遍历
10-4 用select进行调度
10-5 传统同步机制
第11章 http及其他标准库
这里我们简要介绍一下Go语言中非常重要而且封装良好的http标准库,回顾并实现http客户端和服务器。我们还介绍了Go语言中其他的标准库。
11-1 http标准库
11-2 其它标准库
第12章 迷宫的广度优先搜索
这章我们将综合运用学过的知识实现一个广度优先算法来解迷宫,为接下来的实战项目做好技术和算法上的准备。广度优先算法不仅是面试和工作中常用的技术,而且实现上相比大部分其它算法更为复杂,是检验是否熟练掌握一门语言的经典例题。让我们来试一试吧。…
12-1 迷宫_算法
12-2 迷宫代码实现
第13章 开始实战项目
至此为止,恭喜同学完成了这门课Go语言部分的学习。接下来我们来进入实战项目。本章将介绍项目的具体内容,课题的选择,技术选型,总体架构,以及实现步骤。
13-1 爬虫项目介绍
13-2 总体算法
第14章 单任务版爬虫
在考虑性能之前我们首先应该考虑正确性。单任务版爬虫确保我们能够正确爬取我们所需的信息。我们应用了之前练习的广度优先算法,抽象出Parser和Fetcher,学习正则表达式,成功实现并运行单任务版爬虫。
14-1 获得初始页面内容
14-2 正则表达式
14-3 提取城市和url
14-4 单任务版爬虫的架构
14-5 Engine 与 Parser
14-6 测试CityListParser
14-7 城市解析器
14-8 用户信息解析器(上)
14-9 用户信息解析器(下)
14-10 单任务版爬虫性能
第15章 并发版爬虫
为了提升爬虫性能,我们抽象出Worker的概念,并添加调度器,实现并发版爬虫。我们应用接口的概念,完成了由简至复杂的多个调度器的实现。同学可以在实战项目中更真实的体会并学习Go语言并发编程的多种模式。
15-1 并发版爬虫架构
15-2 简单调度器
15-3 并发调度器
15-4 队列实现调度器
15-5 重构和总结
15-6 更多城市
15-7 更多用户与去重
第16章 数据存储和展示
是时候检验我们项目的成果了。我们将采用Docker+ElasticSearch来存储我们爬取的信息。在简单了解Docker和ElasticSearch后,我们将使用ElasticSearch的Go语言客户端将爬取数据写入。之后我们使用Go语言的模板引擎迅速实现前端网页展示。至此,我们已经可以尝试自己喜欢的搜索条件去查看数据啦。…
16-1 ItemSaver的架构
16-2 Docker和ElasticSearch介绍
16-3 Docker的安装和使用
16-4 ElasticSearch入门
16-5 向ElasticSearch存储数据
16-6 完整爬虫的运行与数据存储
16-7 添加URL与ID
16-8 重构与运行
16-9 标准模板库介绍
16-10 实现前端展示页面
16-11 完善前端展示
第17章 分布式爬虫
本章在简要介绍分布式概念后,将我们的并发爬虫改写成分布式。我们在很少改动的情况下,加入jsonrpc客户/服务端,实现并部署分布式爬虫。最后探讨实战项目的更多改进方案。
17-1 分布式系统简介
17-2 分布式爬虫架构
17-3 jsonrpc的使用
17-4 ItemSaver服务
17-5 整合ItemSaver服务
17-6 解析器的序列化
17-7 实现爬虫服务
17-8 完整分布式爬虫的运行
17-9 使用连接池链接爬虫集群
17-10 实战项目总结
17-11 进一步的工作
第18章 课程总结
感谢同学们学到这里,恭喜同学们给自己的技术栈加上了非常重要的Go语言技能。希望同学们带着这门课上学到的知识,更好的参与到项目中去,共同推动Go语言的发展。
18-1 体会Go语言的设计
18-2 课程总结