资讯专栏INFORMATION COLUMN

两句话轻松掌握python最难知识点——元类

enali / 2842人阅读

摘要:两句话掌握最难知识点元类千万不要被所谓元类是的程序员不会用到的特性这类的说辞吓住。元类道生一,一生二一般来说,元类均被命名后缀为。这是的一大难点,但学完了元类,一切变得清晰。

两句话掌握python最难知识点——元类

千万不要被所谓“元类是99%的python程序员不会用到的特性”这类的说辞吓住。因为每个中国人,都是天生的元类使用者

学懂元类,你只需要知道两句话:

道生一,一生二,二生三,三生万物

我是谁?我从哪来里?我要到哪里去?

在python世界,拥有一个永恒的道,那就是“type”,请记在脑海中,type就是道。如此广袤无垠的python生态圈,都是由type产生出来的。

道生一,一生二,二生三,三生万物。

即是 type

即是 metaclass(元类,或者叫类生成器)

即是 class(类,或者叫实例生成器)

即是 instance(实例)

万物 即是 实例的各种属性与方法,我们平常使用python时,调用的就是它们。

道和一,是我们今天讨论的命题,而二、三、和万物,则是我们常常使用的类、实例、属性和方法,用hello world来举例:
# 创建一个Hello类,拥有属性say_hello ----二的起源
class Hello():
    def say_hello(self, name="world"):
        print("Hello, %s." % name)


# 从Hello类创建一个实例hello ----二生三
hello = Hello()

# 使用hello调用方法say_hello ----三生万物
hello.say_hello()

输出效果:

Hello, world.

这就是一个标准的“二生三,三生万物”过程。 从类到我们可以调用的方法,用了这两步。

那我们不由自主要问,类从何而来呢?回到代码的第一行。
class Hello其实是一个函数的“语义化简称”,只为了让代码更浅显易懂,它的另一个写法是:

def fn(self, name="world"): # 假如我们有一个函数叫fn
    print("Hello, %s." % name)
    
Hello = type("Hello", (object,), dict(say_hello=fn)) # 通过type创建Hello class ---- 神秘的“道”,可以点化一切,这次我们直接从“道”生出了“二”

这样的写法,就和之前的Class Hello写法作用完全相同,你可以试试创建实例并调用

# 从Hello类创建一个实例hello ----二生三,完全一样
hello = Hello()

# 使用hello调用方法say_hello ----三生万物,完全一样
hello.say_hello()

输出效果:

Hello, world. ----调用结果完全一样。

我们回头看一眼最精彩的地方,道直接生出了二

Hello = type("Hello", (object,), dict(say_hello=fn))

这就是“道”,python世界的起源,你可以为此而惊叹。
注意它的三个参数!暗合人类的三大永恒命题:我是谁,我从哪里来,我要到哪里去。

第一个参数:我是谁。 在这里,我需要一个区分于其它一切的命名,以上的实例将我命名为“Hello”

第二个参数:我从哪里来
在这里,我需要知道从哪里来,也就是我的“父类”,以上实例中我的父类是“object”——python中一种非常初级的类。

第三个参数:我要到哪里去
在这里,我们将需要调用的方法和属性包含到一个字典里,再作为参数传入。以上实例中,我们有一个say_hello方法包装进了字典中。

值得注意的是,三大永恒命题,是一切类,一切实例,甚至一切实例属性与方法都具有的。理所应当,它们的“创造者”,道和一,即type和元类,也具有这三个参数。但平常,类的三大永恒命题并不作为参数传入,而是以如下方式传入

class Hello(object){
# class 后声明“我是谁”
# 小括号内声明“我来自哪里”
# 中括号内声明“我要到哪里去”
    def say_hello(){
        
    }
}

造物主,可以直接创造单个的人,但这是一件苦役。造物主会先创造“人”这一物种,再批量创造具体的个人。并将三大永恒命题,一直传递下去。

“道”可以直接生出“二”,但它会先生出“一”,再批量地制造“二”。

type可以直接生成类(class),但也可以先生成元类(metaclass),再使用元类批量定制类(class)。

元类——道生一,一生二

一般来说,元类均被命名后缀为Metalass。想象一下,我们需要一个可以自动打招呼的元类,它里面的类方法呢,有时需要say_Hello,有时需要say_Hi,有时又需要say_Sayolala,有时需要say_Nihao。

如果每个内置的say_xxx都需要在类里面声明一次,那将是多么可怕的苦役! 不如使用元类来解决问题。

以下是创建一个专门“打招呼”用的元类代码:

class SayMetaClass(type):

    def __new__(cls, name, bases, attrs):
        attrs["say_"+name] = lambda self,value,saying=name: print(saying+","+value+"!")
        return type.__new__(cls, name, bases, attrs)

记住两点:
1、元类是由“type”衍生而出,所以父类需要传入type。【道生一,所以一必须包含道

2、元类的操作都在 __new__中完成,它的第一个参数是将创建的类,之后的参数即是三大永恒命题:我是谁,我从哪里来,我将到哪里去。 它返回的对象也是三大永恒命题,接下来,这三个参数将一直陪伴我们。

在__new__中,我只进行了一个操作,就是

attrs["say_"+name] = lambda self,value,saying=name: print(saying+","+value+"!")

它跟据类的名字,创建了一个类方法。比如我们由元类创建的类叫“Hello”,那创建时就自动有了一个叫“say_Hello”的类方法,然后又将类的名字“Hello”作为默认参数saying,传到了方法里面。然后把hello方法调用时的传参作为value传进去,最终打印出来。

那么,一个元类是怎么从创建到调用的呢?
来!一起根据道生一、一生二、二生三、三生万物的准则,走进元类的生命周期吧!

# 道生一:传入type
class SayMetaClass(type):

    # 传入三大永恒命题:类名称、父类、属性
    def __new__(cls, name, bases, attrs):
        # 创造“天赋”
        attrs["say_"+name] = lambda self,value,saying=name: print(saying+","+value+"!")
        # 传承三大永恒命题:类名称、父类、属性
        return type.__new__(cls, name, bases, attrs)

# 一生二:创建类
class Hello(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
hello = Hello()

# 三生万物:调用实例方法
hello.say_Hello("world!")

输出为

Hello, world!

注意:通过元类创建的类,第一个参数是父类,第二个参数是metaclass

普通人出生都不会说话,但有的人出生就会打招呼说“Hello”,“你好”,“sayolala”,这就是天赋的力量。它会给我们面向对象的编程省下无数的麻烦。

现在,保持元类不变,我们还可以继续创建Sayolala, Nihao类,如下:

# 一生二:创建类
class Sayolala(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
s = Sayolala()

# 三生万物:调用实例方法
s.say_Sayolala("japan!")

输出

Sayolala, japan!

也可以说中文

# 一生二:创建类
class Nihao(object, metaclass=SayMetaClass):
    pass

# 二生三:创建实列
n = Nihao()

# 三生万物:调用实例方法
n.say_Nihao("中华!")

输出

Nihao, 中华!

再来一个小例子:

# 道生一
class ListMetaclass(type):
    def __new__(cls, name, bases, attrs):
        # 天赋:通过add方法将值绑定
        attrs["add"] = lambda self, value: self.append(value)
        return type.__new__(cls, name, bases, attrs)
        
# 一生二
class MyList(list, metaclass=ListMetaclass):
    pass
    
# 二生三
L = MyList()

# 三生万物
L.add(1)

现在我们打印一下L

print(L)

>>> [1]

而普通的list没有add()方法

L2 = list()
L2.add(1)

>>>AttributeError: "list" object has no attribute "add"

太棒了!学到这里,你是不是已经体验到了造物主的乐趣?

python世界的一切,尽在掌握。

年轻的造物主,请随我一起开创新世界。

我们选择两个领域,一个是Django的核心思想,“Object Relational Mapping”,即对象-关系映射,简称ORM。

这是Django的一大难点,但学完了元类,一切变得清晰。你对Django的理解将更上一层楼!

另一个领域是爬虫领域(黑客领域),一个自动搜索网络上的可用代理,然后换着IP去突破别的人反爬虫限制。

这两项技能非常有用,也非常好玩!

挑战一:通过元类创建ORM 准备工作,创建一个Field类
class Field(object):

    def __init__(self, name, column_type):
        self.name = name
        self.column_type = column_type

    def __str__(self):
        return "<%s:%s>" % (self.__class__.__name__, self.name)
        

它的作用是
在Field类实例化时将得到两个参数,name和column_type,它们将被绑定为Field的私有属性,如果要将Field转化为字符串时,将返回“Field:XXX” , XXX是传入的name名称。

准备工作:创建StringField和IntergerField
class StringField(Field):

    def __init__(self, name):
        super(StringField, self).__init__(name, "varchar(100)")

class IntegerField(Field):

    def __init__(self, name):
        super(IntegerField, self).__init__(name, "bigint")

它的作用是
在StringField,IntegerField实例初始化时,时自动调用父类的初始化方式。

道生一
class ModelMetaclass(type):

    def __new__(cls, name, bases, attrs):
        if name=="Model":
            return type.__new__(cls, name, bases, attrs)
        print("Found model: %s" % name)
        mappings = dict()
        for k, v in attrs.items():
            if isinstance(v, Field):
                print("Found mapping: %s ==> %s" % (k, v))
                mappings[k] = v
        for k in mappings.keys():
            attrs.pop(k)
        attrs["__mappings__"] = mappings # 保存属性和列的映射关系
        attrs["__table__"] = name # 假设表名和类名一致
        return type.__new__(cls, name, bases, attrs)

它做了以下几件事

创建一个新的字典mapping

将每一个类的属性,通过.items()遍历其键值对。如果值是Field类,则打印键值,并将这一对键值绑定到mapping字典上。

将刚刚传入值为Field类的属性删除。

创建一个专门的__mappings__属性,保存字典mapping。

创建一个专门的__table__属性,保存传入的类的名称。

一生二
class Model(dict, metaclass=ModelMetaclass):

    def __init__(self, **kwarg):
        super(Model, self).__init__(**kwarg)

    def __getattr__(self, key):
        try:
            return self[key]
        except KeyError:
            raise AttributeError(""Model" object has no attribute "%s"" % key)

    def __setattr__(self, key, value):
        self[key] = value

    # 模拟建表操作
    def save(self):
        fields = []
        args = []
        for k, v in self.__mappings__.items():
            fields.append(v.name)
            args.append(getattr(self, k, None))
        sql = "insert into %s (%s) values (%s)" % (self.__table__, ",".join(fields), ",".join([str(i) for i in args]))
        print("SQL: %s" % sql)
        print("ARGS: %s" % str(args))
如果从Model创建一个子类User:
class User(Model):
    # 定义类的属性到列的映射:
    id = IntegerField("id")
    name = StringField("username")
    email = StringField("email")
    password = StringField("password")

这时
id= IntegerField("id")就会自动解析为:

Model.__setattr__(self, "id", IntegerField("id"))

因为IntergerField("id")是Field的子类的实例,自动触发元类的__new__,所以将IntergerField("id")存入__mappings__并删除这个键值对。

二生三、三生万物

当你初始化一个实例的时候并调用save()方法时候

u = User(id=12345, name="Batman", email="batman@nasa.org", password="iamback")
u.save()

这时先完成了二生三的过程:

先调用Model.__setattr__,将键值载入私有对象

然后调用元类的“天赋”,ModelMetaclass.__new__,将Model中的私有对象,只要是Field的实例,都自动存入u.__mappings__。

接下来完成了三生万物的过程:

通过u.save()模拟数据库存入操作。这里我们仅仅做了一下遍历__mappings__操作,虚拟了sql并打印,在现实情况下是通过输入sql语句与数据库来运行。

输出结果为

Found model: User
Found mapping: name ==> 
Found mapping: password ==> 
Found mapping: id ==> 
Found mapping: email ==> 
SQL: insert into User (username,password,id,email) values (Batman,iamback,12345,batman@nasa.org)
ARGS: ["Batman", "iamback", 12345, "batman@nasa.org"]

年轻的造物主,你已经和我一起体验了由“道”演化“万物”的伟大历程,这也是Django中的Model版块核心原理。

接下来,请和我一起进行更好玩的爬虫实战(嗯,你现在已经是初级黑客了):网络代理的爬取吧!

挑战二:网络代理的爬取 准备工作,先爬个页面玩玩

请确保已安装requests和pyquery这两个包。

# 文件:get_page.py
import requests

base_headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36",
    "Accept-Encoding": "gzip, deflate, sdch",
    "Accept-Language": "zh-CN,zh;q=0.8"
}


def get_page(url):
    headers = dict(base_headers)
    print("Getting", url)
    try:
        r = requests.get(url, headers=headers)
        print("Getting result", url, r.status_code)
        if r.status_code == 200:
            return r.text
    except ConnectionError:
        print("Crawling Failed", url)
        return None

这里,我们利用request包,把百度的源码爬了出来。

试一试抓百度

把这一段粘在get_page.py后面,试完删除

if(__name__ == "__main__"):
    rs = get_page("https://www.baidu.com")
    print("result:
", rs)
试一试抓代理

把这一段粘在get_page.py后面,试完删除

if(__name__ == "__main__"):
    from pyquery import PyQuery as pq
    start_url = "http://www.proxy360.cn/Region/China"
    print("Crawling", start_url)
    html = get_page(start_url)
    if html:
        doc = pq(html)
        lines = doc("div[name="list_proxy_ip"]").items()
        for line in lines:
            ip = line.find(".tbBottomLine:nth-child(1)").text()
            port = line.find(".tbBottomLine:nth-child(2)").text()
            print(ip+":"+port)

接下来进入正题:使用元类批量抓取代理

批量处理抓取代理
from getpage import get_page
from pyquery import PyQuery as pq


# 道生一:创建抽取代理的metaclass
class ProxyMetaclass(type):
    """
        元类,在FreeProxyGetter类中加入
        __CrawlFunc__和__CrawlFuncCount__
        两个参数,分别表示爬虫函数,和爬虫函数的数量。
    """
    def __new__(cls, name, bases, attrs):
        count = 0
        attrs["__CrawlFunc__"] = []
        attrs["__CrawlName__"] = []
        for k, v in attrs.items():
            if "crawl_" in k:
                attrs["__CrawlName__"].append(k)
                attrs["__CrawlFunc__"].append(v)
                count += 1
        for k in attrs["__CrawlName__"]:
            attrs.pop(k)
        attrs["__CrawlFuncCount__"] = count
        return type.__new__(cls, name, bases, attrs)


# 一生二:创建代理获取类

class ProxyGetter(object, metaclass=ProxyMetaclass):
    def get_raw_proxies(self, site):
        proxies = []
        print("Site", site)
        for func in self.__CrawlFunc__:
            if func.__name__==site:
                this_page_proxies = func(self)
                for proxy in this_page_proxies:
                    print("Getting", proxy, "from", site)
                    proxies.append(proxy)
        return proxies


    def crawl_daili66(self, page_count=4):
        start_url = "http://www.66ip.cn/{}.html"
        urls = [start_url.format(page) for page in range(1, page_count + 1)]
        for url in urls:
            print("Crawling", url)
            html = get_page(url)
            if html:
                doc = pq(html)
                trs = doc(".containerbox table tr:gt(0)").items()
                for tr in trs:
                    ip = tr.find("td:nth-child(1)").text()
                    port = tr.find("td:nth-child(2)").text()
                    yield ":".join([ip, port])

    def crawl_proxy360(self):
        start_url = "http://www.proxy360.cn/Region/China"
        print("Crawling", start_url)
        html = get_page(start_url)
        if html:
            doc = pq(html)
            lines = doc("div[name="list_proxy_ip"]").items()
            for line in lines:
                ip = line.find(".tbBottomLine:nth-child(1)").text()
                port = line.find(".tbBottomLine:nth-child(2)").text()
                yield ":".join([ip, port])

    def crawl_goubanjia(self):
        start_url = "http://www.goubanjia.com/free/gngn/index.shtml"
        html = get_page(start_url)
        if html:
            doc = pq(html)
            tds = doc("td.ip").items()
            for td in tds:
                td.find("p").remove()
                yield td.text().replace(" ", "")


if __name__ == "__main__":
    # 二生三:实例化ProxyGetter
    crawler = ProxyGetter()
    print(crawler.__CrawlName__)
    # 三生万物
    for site_label in range(crawler.__CrawlFuncCount__):
        site = crawler.__CrawlName__[site_label]
        myProxies = crawler.get_raw_proxies(site)
道生一:元类的__new__中,做了四件事:

将“crawl_”开头的类方法的名称推入ProxyGetter.__CrawlName__

将“crawl_”开头的类方法的本身推入ProxyGetter.__CrawlFunc__

计算符合“crawl_”开头的类方法个数

删除所有符合“crawl_”开头的类方法

怎么样?是不是和之前创建ORM的__mappings__过程极为相似?

一生二:类里面定义了使用pyquery抓取页面元素的方法

分别从三个免费代理网站抓取了页面上显示的全部代理。

如果对yield用法不熟悉,可以查看:
廖雪峰的python教程:生成器

二生三:创建实例对象crawler

三生万物:遍历每一个__CrawlFunc__

在ProxyGetter.__CrawlName__上面,获取可以抓取的的网址名。

触发类方法ProxyGetter.get_raw_proxies(site)

遍历ProxyGetter.__CrawlFunc__,如果方法名和网址名称相同的,则执行这一个方法

把每个网址获取到的代理整合成数组输出。

那么。。。怎么利用批量代理,冲击别人的网站,套取别人的密码,狂发广告水贴,定时骚扰客户? 呃!想啥呢!这些自己悟!如果悟不到,请听下回分解!

年轻的造物主,创造世界的工具已经在你手上,请你将它的威力发挥到极致!

请记住挥动工具的口诀:

道生一,一生二,二生三,三生万物

我是谁,我来自哪里,我要到哪里去

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/40902.html

相关文章

  • 学习Python的建议

    摘要:如果初学者接触的第一门语言是,学习曲线则会平滑得多,掌握一些基本语法和内置的数据结构,已经可以上手写一些小工具或者小型应用。如果你的学习时间充足,我的建议是一定要学数据结构和算法。 前言 Python是最容易入门的编程语言,没有之一。如果初学者接触的第一门语言是C或者C++,对他们来说最难的不是语法,而是容易出现内存泄漏、指针等问题。有时候排查这些问题对初学者的打击很大,尤其是没掌握排...

    eechen 评论0 收藏0
  • Python “黑魔法” 之 Meta Classes

    摘要:幸而,提供了造物主的接口这便是,或者称为元类。接下来我们将通过一个栗子感受的黑魔法,不过在此之前,我们要先了解一个语法糖。此外,在一些小型的库中,也有元类的身影。 首发于 我的博客 转载请注明出处 接触过 Django 的同学都应该十分熟悉它的 ORM 系统。对于 python 新手而言,这是一项几乎可以被称作黑科技的特性:只要你在models.py中随便定义一个Model的子类,Dj...

    LeoHsiun 评论0 收藏0
  • Python: 陌生的 metaclass

    摘要:但一般情况下,我们使用类作为元类。那么,元类到底有什么用呢要你何用元类的主要目的是为了控制类的创建行为。当然,有很多种做法,这里展示用元类的做法。当你创建类时,解释器会调用元类来生成它,定义一个继承自的普通类意味着调用来创建它。 元类 Python 中的元类(metaclass)是一个深度魔法,平时我们可能比较少接触到元类,本文将通过一些简单的例子来理解这个魔法。 类也是对象 在 Py...

    miya 评论0 收藏0
  • How does it work - with_metaclass

    摘要:先简单介绍下中的元类。元类就是创建类的类,对于元类来说,类是它的实例,将返回。中的所有类,都是的实例,换句话说,是元类的基类。 我在看源代码的时候,经常蹦出这一句:How does it work!竟然有这种操作?本系列文章,试图剖析代码中发生的魔法。顺便作为自己的阅读笔记,以作提高。 先简单介绍下Python中的元类(metaclass)。元类就是创建类的类,对于元类来说,类是它的实...

    testbird 评论0 收藏0
  • python 类和元类(metaclass)的理解和简单运用

    摘要:什么是元类刚才说了,元类就是创建类的类。类上面的属性,相信愿意了解元类细节的盆友,都肯定见过这个东西,而且为之好奇。使用了这个魔法方法就意味着就会用指定的元类来创建类了。深刻理解中的元类 (一) python中的类 今天看到一篇好文,然后结合自己的情况总结一波。这里讨论的python类,都基于python2.7x以及继承于object的新式类进行讨论。 首先在python中,所有东西都...

    zhangqh 评论0 收藏0

发表评论

0条评论

enali

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<