python3 爬取网页表格例子

我是初学者,希望对跟我一样的 “小白”有帮助

#网址如下:http://www.maigoo.com/news/463071.html

from bs4 import BeautifulSoup  

import requests  

import csv  

import bs4  

  

  

#检查url地址  

def check_link(url):  

    try:  

          

        r = requests.get(url)  

        r.raise_for_status()  

        r.encoding = r.apparent_encoding  

        return r.text  

    except:  

        print(‘无法链接服务器!!!’)  

  

  

#爬取资源  

def get_contents(ulist,rurl):  

    soup = BeautifulSoup(rurl,’lxml’)  

    trs = soup.find_all(‘tr’)  

    for tr in trs:  

        ui = []  

        for td in tr:  

            ui.append(td.string)  

        ulist.append(ui) 

      

#保存资源  

def save_contents(urlist):

    try:  

        with open(“数据.csv”,’w’) as f:  

            writer = csv.writer(f)  

            writer.writerow([‘2016年中国企业500强排行榜’])  

            for i in range(len(urlist)):  

                writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) 

    except:

        pass 

 

def main():  

    urli = []  

    url = “http://www.maigoo.com/news/463071.html”  

    rs = check_link(url)  

    get_contents(urli,rs)  

    save_contents(urli)  

  

main()  

结果如下:

2016年中国企业500强排行榜
 名次 , 企业名称 , 营业收入(万元) 
 1 , 国家电网公司 , 207134945 
 2 , 中国石油天然气集团公司 , 188073616 
 3 , 中国石油化工集团公司 , 184977795 
 4 , 中国工商银行股份有限公司 , 107983800 
 5 , 中国建设银行股份有限公司 , 92587800 
 6 , 中国建筑股份有限公司 , 88057713 
 7 , 中国农业银行股份有限公司 , 83376600 
 8 , 中国银行股份有限公司 , 76922200 
 9 , 中国平安保险(集团)股份有限公司 , 69322000 
 10 , 中国移动通信集团公司 , 67092753 
 11 , 上海汽车集团股份有限公司 , 67044822 
 12 , 中国人寿保险(集团)公司 , 63644438 
 13 , 中国铁路工程总公司 , 62488857 
 14 , 中国铁道建筑总公司 , 60111385 
 15 , 国家开发银行股份有限公司 , 59532274 
 16 , 东风汽车公司 , 52045396 
 17 , 华润(集团)有限公司 , 48122063 
 18 , 中国南方电网有限责任公司 , 46942579 
 19 , 太平洋建设集团有限公司 , 45905631 
 20 , 中国兵器装备集团公司 , 44041718 
 21 , 中国邮政集团公司 , 43762571 
 22 , 中国海洋石油总公司 , 42607860 
 23 , 中国交通建设集团有限公司 , 42585682 
 24 , 中国人民保险集团股份有限公司 , 40601100 
 25 , 中粮集团有限公司 , 40544184 
 26 , 天津物产集团有限公司 , 40366194 
 27 , 华为技术有限公司 , 39500900 
 28 , 中国第一汽车集团公司 , 39499035 
 29 , 中国电信集团公司 , 38834967 
 30 , 中国兵器工业集团公司 , 38725293 
 31 , 中国中化集团公司 , 38116100 
 32 , 中国航空工业集团公司 , 37862420 
 33 , 交通银行股份有限公司 , 35798543 
 34 , 中国中信集团有限公司 , 35153783 
 35 , 苏宁控股集团有限公司 , 35028812 
 36 , 北京汽车集团有限公司 , 34522067 
 37 , 山东魏桥创业集团有限公司 , 33323772 
 38 , 联想控股股份有限公司 , 30982614 
 39 , 招商银行股份有限公司 , 30384300 
 40 , 正威国际集团有限公司 , 30036385 
 41 , 兴业银行股份有限公司 , 29188800 
 42 , 大连万达集团股份有限公司 , 29016000 
 43 , 中国电力建设集团有限公司 , 28661193 
 44 , 河钢集团有限公司 , 28446842 
 45 , 中国医药集团总公司 , 27855600 
 46 , 中国联合网络通信集团有限公司 , 27833943 
 47 , 中国华能集团公司 , 26822627 
 48 , 中国民生银行股份有限公司 , 26744100 
 49 , 上海浦东发展银行股份有限公司 , 26413400 
 50 , 中国华信能源有限公司 , 26315060 
 51 , 中国化工集团公司 , 26025252 
 52 , 中国太平洋保险(集团)股份有限公司 , 24720200 
 53 , 中国中车集团公司 , 24373283 
 54 , 中国铝业公司 , 23877911 
 55 , 冀中能源集团有限责任公司 , 23765521 
 56 , 神华集团有限责任公司 , 23636609 
 57 , 宝钢集团有限公司 , 23005904 
 58 , 中国船舶重工集团公司 , 22631565 
 59 , 中国远洋海运集团有限公司 , 22426441 
 60 , 中国冶金科工集团有限公司 , 22192950 
 61 , 陕西延长石油(集团)有限责任公司 , 22089657 
 62 , 中国机械工业集团有限公司 , 22079734 
 63 , 金川集团股份有限公司 , 22041320 
 64 , 广州汽车工业集团有限公司 , 21643680 
 65 , 恒力集团有限公司 , 21207961 
 66 , 中国能源建设集团有限公司 , 20878859 
 67 , 绿地控股集团股份有限公司 , 20725659 
 68 , 中国光大集团股份有限公司 , 20676600 
 69 , 江苏沙钢集团有限公司 , 20582346 
 70 , 新兴际华集团有限公司 , 20466604 
 71 , 大同煤矿集团有限责任公司 , 20067736 
 72 , 大商集团有限公司 , 20043933 
 73 , 中国五矿集团公司 , 20036679 
 74 , 中国建筑材料集团有限公司 , 19925009 
 75 , 江西铜业集团公司 , 19830382 
 76 , 中国电子信息产业集团有限公司 , 19819149 
 77 , 中国华电集团公司 , 19756174 
 78 , 山西焦煤集团有限责任公司 , 19505866 
 79 , 国家电力投资集团公司 , 19240381 
 80 , 中国航天科技集团公司 , 19201631 
 81 , 中国国电集团公司 , 19177018 
 82 , 陕西煤业化工集团有限责任公司 , 19061424 
 83 , 中国船舶工业集团公司 , 18973172 
 84 , 海尔集团公司 , 18869388 
 85 , 海航集团有限公司 , 18578021 
 86 , 万科企业股份有限公司 , 18431705 
 87 , 物产中大集团股份有限公司 , 18257322 
 88 , 北京京东世纪贸易有限公司 , 18128696 
 89 , 山西潞安矿业(集团)有限责任公司 , 18000056 
 90 , 阳泉煤业(集团)有限责任公司 , 17790823 
 91 , 中国航天科工集团公司 , 17512976 
 92 , 中国通用技术(集团)控股有限责任公司 , 17387349 
 93 , 山西晋城无烟煤矿业集团有限责任公司 , 17327294 
 94 , 开滦(集团)有限责任公司 , 17168806 
 95 , 中国有色矿业集团有限公司 , 17086594 
 96 , 中国保利集团公司 , 16763849 
 97 , 中国大唐集团公司 , 16616058 
 98 , 中国电子科技集团公司 , 16597360 
 99 , 浙江吉利控股集团有限公司 , 16530399 
 100 , 华晨汽车集团控股有限公司 , 16054589 
 101 , 河南能源化工集团有限责任公司 , 16024564 
 102 , 新华人寿保险股份有限公司 , 15845300 
 103 , 山东能源集团有限公司 , 15796767 
 104 , 国美电器有限公司 , 15368559 
 105 , 光明食品(集团)有限公司 , 14755461 
 106 , 中国平煤神马能源化工集团有限责任公司 , 14683995 
 107 , 铜陵有色金属集团控股有限公司 , 14534744 
 108 , 海亮集团有限公司 , 14016131 
 109 , 中国航空油料集团公司 , 13889299 
 110 , 美的集团股份有限公司 , 13844123 
 111 , 万洲国际有限公司 , 13772276 
 112 , 首钢总公司 , 13520063 
 113 , 恒大地产集团有限公司 , 13313000 
 114 , 泰康人寿保险股份有限公司 , 13231325 
 115 , 上海烟草集团有限责任公司 , 13183197 
 116 , 黑龙江北大荒农垦集团总公司 , 13133564 
 117 , 厦门建发集团有限公司 , 13056886 
 118 , 鞍钢集团公司 , 12970755 
 119 , 上海建工集团股份有限公司 , 12543070 
 120 , 天津中环电子信息集团有限公司 , 12152383 
 121 , 百联集团有限公司 , 11983899 
 122 , 上海东浩兰生国际服务贸易(集团)有限公司 , 11894329 
 123 , 天津百利机械装备集团有限公司 , 11866099 
 124 , 陕西有色金属控股集团有限责任公司 , 11617681 
 125 , 万向集团公司 , 11535989 
 126 , 山东大王集团有限公司 , 11269181 
 127 , 中国南方航空集团公司 , 11220561 
 128 , 中国航空集团公司 , 11111975 
 129 , 中国太平保险集团有限责任公司 , 11109118 
 130 , 中国黄金集团公司 , 11074589 
 131 , 天津渤海化工集团有限责任公司 , 11008975 
 132 , 三胞集团有限公司 , 10806963 
 133 , 上海医药集团股份有限公司 , 10551659 
 134 , 华夏银行股份有限公司 , 10514829 
 135 , 新疆广汇实业投资(集团)有限责任公司 , 10503738 
 136 , TCL集团股份有限公司 , 10457948 
 137 , 国家开发投资公司 , 10423958 
 138 , 天津渤海轻工投资集团有限公司 , 10381541 
 139 , 红塔烟草(集团)有限责任公司 , 10338809 
 140 , 腾讯控股有限公司 , 10286300 
 141 , 厦门国贸控股有限公司 , 10261615 
 142 , 太平人寿保险有限公司 , 10224880 
 143 , 山东钢铁集团有限公司 , 10210768 
 144 , 武汉钢铁(集团)公司 , 10183092 
 145 , 江苏悦达集团有限公司 , 10181297 
 146 , 四川长虹电子控股集团有限公司 , 10149949 
 147 , 兖矿集团有限公司 , 10123468 
 148 , 阿里巴巴集团控股有限公司 , 10114300 
 149 , 酒泉钢铁(集团)有限责任公司 , 10085673 
 150 , 中兴通讯股份有限公司 , 10018639 
 151 , 中天钢铁集团有限公司 , 10016316 
 152 , 大冶有色金属集团控股有限公司 , 10012809 
 153 , 海信集团有限公司 , 9901646 
 154 , 珠海格力电器股份有限公司 , 9774514 
 155 , 中国东方航空集团公司 , 9706848 
 156 , 上海电气(集团)总公司 , 9652138 
 157 , 安徽海螺集团有限责任公司 , 9307035 
 158 , 红云红河烟草(集团)有限责任公司 , 9287350 
 159 , 武汉商联(集团)股份有限公司 , 9132400 
 160 , 太原钢铁(集团)有限公司 , 9083529 
 161 , 山东省商业集团有限公司 , 9070000 
 162 , 广厦控股集团有限公司 , 8971015 
 163 , 北京银行 , 8787567 
 164 , 青山控股集团有限公司 , 8768949 
 165 , 山西煤炭进出口集团有限公司 , 8524164 
 166 , 广西投资集团有限公司 , 8516053 
 167 , 南山集团有限公司 , 8222167 
 168 , 中国中煤能源集团有限公司 , 8204392 
 169 , 盛虹控股集团有限公司 , 8180421 
 170 , 湖北宜化集团有限责任公司 , 8103725 
 171 , 潍柴控股集团有限公司 , 8065115 
 172 , 浙江荣盛控股集团有限公司 , 8060568 
 173 , 北大方正集团有限公司 , 8051129 
 174 , 浙江省兴合集团有限责任公司 , 8019763 
 175 , 比亚迪股份有限公司 , 8000897 
 176 , 协鑫(集团)控股有限公司 , 7978687 
 177 , 浙江恒逸集团有限公司 , 7940567 
 178 , 浙江中烟工业有限责任公司 , 7861183 
 179 , 杭州钢铁集团公司 , 7769455 
 180 , 晋能集团有限公司 , 7702583 
 181 , 本钢集团有限公司 , 7700058 
 182 , 陕西东岭工贸集团股份有限公司 , 7611371 
 183 , 长城汽车股份有限公司 , 7603314 
 184 , 中国华融资产管理股份有限公司 , 7538576 
 185 , 三一集团有限公司 , 7505031 
 186 , 超威电源有限公司 , 7497736 
 187 , 广州医药集团有限公司 , 7485668 
 188 , 紫金矿业集团股份有限公司 , 7430357 
 189 , 徐州工程机械集团有限公司* , 7394093 
 190 , 中国中材集团有限公司 , 7296911 
 191 , 天能电池集团有限公司 , 7239327 
 192 , 西安迈科金属国际集团有限公司 , 7100414 
 193 , 清华控股有限公司 , 7053898 
 194 , 北京控股集团有限公司 , 7043436 
 195 , 广西建工集团有限责任公司 , 7008182 
 196 , 南通三建控股有限公司 , 6882735 
 197 , 新希望集团有限公司 , 6824439 
 198 , 山东黄金集团有限公司 , 6819803 
 199 , 陕西建工集团有限公司 , 6810634 
 200 , 河北新华联合冶金控股集团有限公司 , 6797096 

    原文作者:快乐糖果屋
    原文地址: https://blog.csdn.net/weixin_41059146/article/details/78605081
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞