2017中国大学排名爬虫代码修改

figofuture 发布于2019-07-30 15:14 / 2750人阅读

摘要：课程的第单元中嵩天老师给出的中国大学排名爬虫优化代码如果把中的改为就会出错，原因年各校排名数字的格式为而年各校排名数字的格式为，针对这个问题，我对嵩天老师的代码做了一点修改，可能不是很漂亮，但是实现了功能我很开心。

本文是学习http://www.icourse163.org/lea... 课程的代码实现和反思。

课程的第6单元中嵩天老师给出的“中国大学排名爬虫”优化代码如果把url中的2016改为2017就会出错，原因：2016年各校排名数字的html格式为1,而2017年各校排名数字的html格式为1，针对这个问题，我对嵩天老师的代码做了一点修改，可能不是很漂亮，但是实现了功能我很开心。代码如下：

import requests, bs4, re
from bs4 import BeautifulSoup


def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""

def fillUnivList(ulist, html):
    soup = BeautifulSoup(html, "html.parser")
    for tr in soup.find("tbody").children:
        if isinstance(tr, bs4.element.Tag):
            yield tr   #用到了生成器

def peidui(ulist, html):
    xlt = re.findall(r"d{1,4}?",html)  #用到了最小匹配
    for tr,i in zip(fillUnivList(uinfo, html), xlt): #一次循环2个变量用到了zip
        tds = tr("td")
        ulist.append([i.replace("",""), tds[1].string, tds[3].string])

def printUnivList(ulist, num):
    tplt = "{0:^10}	{1:{3}^10}	{2:^10}"
    print(tplt.format("排名","学校名称","总分",chr(12288)))
    for i in range(num):
        u=ulist[i]
        print(tplt.format(u[0],u[1],u[2],chr(12288)))
    
def main():
    uinfo = []
    url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2017.html"
    html = getHTMLText(url)
    peidui(uinfo, html)
    printUnivList(uinfo, 20) 
main()

运行结果如下：

排名来自最好大学网，只是作为爬虫练习使用，觉得排名不合适的网友勿喷。

服务器托管超融合服务器 2017国内cdn排名 ecs云服务器2017排名 webrtc 2017源代码爬虫代码

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/41127.html

2017中国大学排名爬虫代码修改

摘要：课程的第单元中嵩天老师给出的中国大学排名爬虫优化代码如果把中的改为就会出错，原因年各校排名数字的格式为而年各校排名数字的格式为，针对这个问题，我对嵩天老师的代码做了一点修改，可能不是很漂亮，但是实现了功能我很开心。本文是学习http://www.icourse163.org/lea... 课程的代码实现和反思。课程的第6单元中嵩天老师给出的中国大学排名爬虫优化代码如果把url中的2...

Cruise_Chan 2019-08-01 18:20 评论0 收藏0
Java爬虫之爬取中国高校排名前100名并存入MongoDB中

摘要：介绍在博客爬虫爬取中国高校排名前名并写入中，我们利用来写爬虫，将中的大学排名表格爬取出来，并存入到中。本次分享将用的来实现相同的功能，并将爬取到的数据存入到数据库中。介绍在博客：Python爬虫——爬取中国高校排名前100名并写入MySQL中，我们利用Python来写爬虫，将http://gaokao.xdf.cn/201702/1... 中的大学排名表格爬取出来，并存入到My...

jzzlee 2019-06-26 17:38 评论0 收藏0
Java爬虫之爬取中国高校排名前100名并存入MongoDB中

摘要：介绍在博客爬虫爬取中国高校排名前名并写入中，我们利用来写爬虫，将中的大学排名表格爬取出来，并存入到中。本次分享将用的来实现相同的功能，并将爬取到的数据存入到数据库中。介绍在博客：Python爬虫——爬取中国高校排名前100名并写入MySQL中，我们利用Python来写爬虫，将http://gaokao.xdf.cn/201702/1... 中的大学排名表格爬取出来，并存入到My...

GeekQiaQia 2019-08-15 15:10 评论0 收藏0
中国公有云厂商2018年收入利润综合排名详细解读

摘要：可见，实际公布的中国公有云供应商年收入利润排名榜单是按照综合业务收入来计算，并非只是纯粹的公有云业务。数据显示，年至年中国公有云市场年均复合增长率将达。这些中国公有云厂商名单，据阿明不完全统计，总计为家。他们说：看过排名更懂云了……做这个排名之前，首先需要说明一下这次估算和统计的公有云供应商的业务范围，包括了这些云供应商的公有云、CDN、IDC、私有云、混合云、与云相关的集成项目，共计六项主...

Guakin_Huang 2019-04-29 17:53 评论0 收藏0