利用 SQL 进行数据分析初学者教程 - ep1

由 Tomi Mester 写于2017年5月9日
本文转载自https://data36.com/sql-for-data-analysis-tutorial-beginners/

如果你想成数据分析师或是数据科学家,那么 SQL 是必须的。在过去的几年中,我已经与许多公司有线业务合作 – 从 5 人创业公司到 5000 多名员工跨国公司,并没有看到一家不会以某种方式使用SQL进行数据分析(以及更多的事情)的公司。

SQL简单并且容易理解。因而,不只是工程师、开发者、数据分析师或数据科学家可以使用它,而是任何愿意花费几天来学习和练习它的人。

我已经创建了这个 SQL 系列,成为有志的数据分析师和数据科学家的最实用和多动手的 SQL 教程。如果你从没有接触过编码、编程、查询,它将从头开始,这并不会是一个问题!

让我们开始吧!

《利用 SQL 进行数据分析初学者教程 - ep1》 select

注意:因为这是一个实用教程,我鼓励你和我一起编码。如果你这样做,你将需要一个数据服务器来练习。所以我建议你先通过阅读这篇文章

利用SQL进行数据分析?这是什么?为什么好呢?

SQL代表『结构化查询语言』。
但是我喜欢描述它为「加强版的 Excel」。下面是同一份数据在 Excel 和 SQL:

《利用 SQL 进行数据分析初学者教程 - ep1》 Excel&sql

如你所见,SQL 和 Excel 十分相似。它们用具有行和列的二维列表展示数据。两者都非常结构化,非常透明。

不过也有差异。作为初学者,你应该知道两件关于 SQL 的重要事情:

1.第一是性能。虽然 Excel 在小数据集中表现很棒,但是当你使用不同的公式处理 100 k+ 行的文件,它变得十分缓慢和低效。在 SQL 中,甚至超过 10 M+ 行的文件可以很快的处理。(例如,在接下来的利用 SQL进行数据分析文章中,我们将使用一个 7 M+ 行的数据集。)

2.第二是怎样访问你的数据。Excel 主要是图形用户界面(也成为 GUI)。你可以滚动、敲入公式、用光标选择你的范围等等,非常方便。在 SQL 中,你没有这样的界面,你必须使用称为『SQL 查询』来代替。看下面的gif:

《利用 SQL 进行数据分析初学者教程 - ep1》 excel

<center>在 Excel 中求和</center >

《利用 SQL 进行数据分析初学者教程 - ep1》 sql

<center>在 SQL 中求和</center >

因为第一次看到这个,可能感觉到麻烦。但是相信我,一旦你了解 SQL 基础知识,你会发现它比 Excel 更加清晰、更有效率。只提两个有点:在 SQL 中,连接表比 Excel 更简单。同样,使用 SQL 自动化和重复使用脚本也将会变得更加方便。

当你使用 SQL 进行数据分析,你将会使用它(最有可能)进行简单任务:聚合事情、连接数据集、使用简单的统计和数学方法。但是,你可以比以前更有效率执行这些任务和更大的数据集。

Python,R 和 bash怎么样?

如果你已经完成了我之前的 bash 教程 或者你已经参加一些我的在线直播,你可能会问:SQL 比 Python,R 或者 bash 好还是坏?答案是…好吧,这个问题没有明确答案!

一旦你开始在实际生活的数据项目中应用这些语言,你将看到 Python 和 R 在某些方面是表现好的,而 SQL 在其他方面表现好。主要是语法、功能、性能不同…但是,我现在不想进入该主题,因为:

a)我承诺一个使用教程,其主题有点理论(甚至有点哲学)。
    b)它还有点先进的东西。
    c)在这个水平上,你完全不需要担心它的性能,并且你有可能得到资深数据科学家或者数据工程师的帮助。

注意:如果你真的很好奇,我给你~1小时在这里比较 Python,R,SQL 和 bash。

但是现在,让我们试试吧!

STEP 0 – 安装你自己的 SQL 环境来练习!

注意:如果你已经有自己的 SQL 环境,你可以跳到<u>STEP-获得数据!</u>

首先,请仔细阅读这篇文章。它是关于如何一步一步设置你自己的数据服务和安装 bash,Python,R 和 SQL 的教程。

注意:在我的『利用 SQL 进行数据分析』文章中,我将使用 postgreSQL!还有其他类型的 SQL 语言(例如,另一个众所周知的开源语言 mySQL)。好消息是,所有的 SQL 语言都非常相似 — 如果你学习 postgreSQL,则需要几个小时(甚至几分钟)才能适应另一个。我选择了 postgreSQL,因为它很受欢迎(许多在线企业都在使用它),同时它被称为最先进的开源 SQL 语言。

如果你通过上述链接的文章,请仔细检查,如果你有以下3件事情:

1.具有终端(或 iTerm)访问权限的数据服务器。
  2.PostgreSQL 安装在你的数据服务器上。
  3.你的计算机上的Pgadmin4(或SQL Workbench)。

如果缺少某些内容,请再次阅读:安装 bash,Python,R 和 SQL!

注意:作为一个 SQL 查询工具,相比于 pgadmin4,我更喜欢 SQL Workbench,但这是一种品味的问题。在我的利用 SQL 进行数据分析教程中,我将使用 SQL Workbench(以下是有关如何在计算机上安装它的教程),但你可以随意使用 pgadmin4。这不会有什么区别!

STEP 1 – 通过命令行登录你的 SQL 数据库!

太好了!你将在一分钟内编写你的第一个 SQL 查询!首先从命令行访问你的 SQL 数据库!你已经做了一次,我们将重复这个过程:

1.打开终端(或 iTerm)。
  2.ssh到你的数据服务器
  在我的环境下,我输入:
  ssh tomi@[my_ip_adress]
  

《利用 SQL 进行数据分析初学者教程 - ep1》 t1

  3.一旦我登录服务器,我想访问我的 postgreSQL 数据库。因为我已经访问了我的用户,我只需要键入这个命令:

  
psql -U tomi -d postgres- » psql 是命令本身以及
-U 指定你的用户名(我的为「tomi」),以及
-d 指定你的数据库的名称(我的是 postgres 同样适用于你)。你的提示应改为:

postgres=>

  
《利用 SQL 进行数据分析初学者教程 - ep1》 t2

  完成!你可以完全访问你的 SQL 数据库!

  4.作为测试,键入:

  
\dt

  这会列出你所有的数据表。到目前为止,你只有一个数据表,但是这将会马上改变!

  
《利用 SQL 进行数据分析初学者教程 - ep1》 t3

再次提醒!如果缺少某些东西或者不能运行,请再次阅读:
安装 bash,Python,R 和 SQL!

STEP 2 – 获得数据!

在本教程中,我们将使用一个非常小的数据集,称为 zoo。
您可以从这里以原始 .tsv 格式下载,你可以在 Excel 中操作它。如果您已经完成了bash 教程,或者在bash /command line

但是,继续使用SQL:
1)创建一个表,我们可以向表中载入数据。在我的后续教程中,我将详细解释这里发生了什么,但现在,你只需将这几行代码复制粘贴到终端中:

CREATE TABLE zoo (  
    animal varchar(10),  
    uniq_id integer PRIMARY KEY,  
    water_need integer  
);  

《利用 SQL 进行数据分析初学者教程 - ep1》 t4

2)仔细检查表格是否已创建:

\dt

我们有新的数据表:zoo!

《利用 SQL 进行数据分析初学者教程 - ep1》 t5

3)载入数据!

再次说明:我稍后会解释,但是现在,只是复制粘贴这个 SQL 查询:

INSERT INTO zoo (animal,uniq_id,water_need) VALUES  
   ('elephant',1001,500),  
   ('elephant',1002,600),  
   ('elephant',1003,550),  
   ('tiger',1004,300),  
   ('tiger',1005,320),  
   ('tiger',1006,330),  
   ('tiger',1007,290),   
   ('tiger',1008,310),  
   ('zebra',1009,200),  
   ('zebra',1010,220),  
   ('zebra',1011,240),  
   ('zebra',1012,230),  
   ('zebra',1013,220),  
   ('zebra',1014,100),  
   ('zebra',1015,80),  
   ('lion',1016,420),  
   ('lion',1017,600),   
   ('lion',1018,500),   
   ('lion',1019,390),  
   ('kangaroo',1020,410),  
   ('kangaroo',1021,430),  
   ('kangaroo',1022,410);  

如果一切正常,你会得到这条提醒:
INSERT 0 22

《利用 SQL 进行数据分析初学者教程 - ep1》 t6

最重要的 SQL 语句:SELECT

是时候学习最基本的 SQL 语句。这是:

SELECT * FROM table_name;
每当你在数据上使用读取,过滤,转换,聚合或执行任何操作,你将会使用 SELECT。在这系列教程中,90%的内容将会显示出来,以某种方式修改单一查询。作为开始,我们从 zoo 数据表中 SELECT 任意内容。

SELECT * FROM zoo;

《利用 SQL 进行数据分析初学者教程 - ep1》 t7

我已经得到完整的可读格式的表。(如果要从这个视角中退出,请在键盘上按Q键。)

SELECT * FROM zoo;
我想它甚至不需要一个解释 — 因为语法本身非常接近英语 – 但是为了以防万一:
SELECT 是主语句,它告诉 SQL 我们想从我们的数据表中读取一些东西。
* 通常是指「一切」 — 在这种情况下,这意味着我们想选择每一列。
FROM 告诉 SQL,我们要从指定的表中读取数据。
zoo 是表的名称。如果你有更多的表,您可以将其替换为任何其他表名。
; 这是一个 SQL 特定的语法。每个查询都应该用分号关闭。如果您不小心错过了,SQL 将期望您继续查询,不会在屏幕上返回任何内容。

《利用 SQL 进行数据分析初学者教程 - ep1》 t8

从现在起,你将会使用这种语法。

SELECT columns

你可以用实际的列名替换 * 字符。尝试这个查询:
SELECT animal, water_need FROM zoo;

《利用 SQL 进行数据分析初学者教程 - ep1》 t9

(如果要从此视图中退出,请在键盘上按Q键。)

确切地说,你所期望的是:你的屏幕上列出了「animal」和「water_need」列,而不是「uniq_id」。
这样可以 SELECT 任何列。你只需要用逗号分隔指定的列名。

你也可以这样做:
SELECT animal, animal, animal FROM zoo;

《利用 SQL 进行数据分析初学者教程 - ep1》 t10

你会看到同一列多次…但是,因为这是没有意义的,我建议只是根本不这样做。

显示数据的前几行 — LIMIT 从句

现在我们正在使用 22 行的数据表。在「利用 SQL 进行数据分析」系列的下一集中,我们将使用一个 7 M+ 行数据文件。这是一个很大的变化,在这种情况下,每次都在屏幕上打印所有数据是不合理的,而是获取前几行的小样本。为此,使用 LIMIT 从句 – 这是之前介绍的「基础查询」顶部的一个小「扩展」:

SELECT * FROM zoo LIMIT 10;

这将仅打印前10行。(记住它是如何在 bash 中完成的?这是 head -10 命令。)

《利用 SQL 进行数据分析初学者教程 - ep1》 t11

当然,你可以决定要打印多少行,并在 LIMIT 之后指定!

过滤指定行 — WHERE从句

基于数值,你可以用 WHERE 从句选择特定的行。例如:

SELECT * FROM zoo WHERE animal = 'elephant';

《利用 SQL 进行数据分析初学者教程 - ep1》 t12

SELECT * FROM zoo -»这是「基础查询」
WHERE -» 这告诉 SQL 你想过滤一些东西
animal = 'elephant' -» animal 是你正在寻找给定值的列名。而 elephant 是值本身。在 SQL 中,你必须添加列名,寻找值。
; -» 永远不要忘记分号!

在利用 SQL 进行数据分析系列的下一集中,我将详细介绍如何充分利用 WHERE!现在,如果你知道这是为了过滤行,便足够了。

自我测试#1

这是一个介绍性的文章,所以这第一个任务也将是相当容易的:
从 zoo 表中选择前 3 个 zebra!
该解或多或少是本文的总结!
.
.
.
准备?
这是我的解决方案:
SELECT * FROM zoo WHERE animal = 'zebra' LIMIT 3;

《利用 SQL 进行数据分析初学者教程 - ep1》 t13

SQL 很容易,对吧?

还有一件事:语法…

稍后,我将向你展示一些最佳实践,以及如何保持 SQL 查询的清洁和高效,但在第一篇文章中,我仅强调两件事情:

  1. 所有的查询都应以分号(;)结尾。如果你不小心错过了,SQL 将期望您继续查询,不会在屏幕上返回任何内容。例如:
    postgres=> SELECT * FROM zoo
    postgres->
    这不是很好…这样更好:
    postgres=> SELECT * FROM zoo;
  2. 当谈到SQL关键字(SELECT,WHERE,LIMIT等),SQL 并不区分大小写。例如:
    SELECT * FROM zoo;
    工作原理如下:
    select * from zoo;表名,列名和值的区分大小写是你设置的问题。在我们当前的设置(使用postgreSQL)中,表名和列名不区分大小写,但是字段值是。例如。
    SELECT * FROM zoo WHERE animal = 'elephant'; –» WORKS
    SELECT * FROM ZOO WHERE ANIMAL = 'elephant'; –» WORKS
    SELECT * FROM ZOO WHERE ANIMAL = 'ELEPHANT'; –» DOES NOT WORK

请注意,按照惯例上大多数人使用大写 SQL 关键字(SELECT,WHERE,LIMIT等)。它有助于阅读你的代码。

结论

相当不错的学习和使用 SQL 进行数据分析!恭喜!现在你可以写你的第一个非常基本的 SQL 查询…但这只是开始!让我们继续下一集,并学习如何使用 WHERE 从句从数据集中过滤东西。

如果你不想错过下一集,并且也想获得有关即将到来的网络研讨会的信息,请订阅我的每周通讯

    原文作者:Datartisan数据工匠
    原文地址: https://www.jianshu.com/p/9ea84e4353fe
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞