资讯专栏INFORMATION COLUMN

Python: C扩展初体验

xcold / 2677人阅读

摘要:哪怕工作中比较少机会自己写扩展了解这块的知识,也有利于我们更加深入了解的运行本质。表示这个模块使用这个映射表。所以,在我们编写扩展时,也需要时刻谨记这步主要会用到下面两个宏增加引用例减少引用例不能直接使用释放,必须使用然后即可。

前言

使用 Python 毋庸置疑减少了很多规则约束和开发成本,让我们能够更加专注于逻辑而非语法。但是得此失彼,开发效率提高了,却带来了运行性能的问题,所以就常常被其他门派追着暴打。
 
身为一个 pythoner,我们也很忧伤呀,怪我们咯..

万幸的是,虽然上帝关掉了我们一扇门,但是却为我们打开了另一扇窗,正因为底层是用 C语言 写的,所以我们可以将一些性能损耗比较大的功能,或者模块,通过 C语言 重写,然后 import xxxx 来无缝结合。

哪怕工作中比较少机会自己写C扩展, 了解这块的知识,也有利于我们更加深入了解 Python 的运行本质。

网上比较是通过 ctypes 或者 setup.py 的方式实现引用和编译安装,这边想试下最原始的方法~

快速开车 1. 实现接口函数

接口函数是什么意思?可以简单理解成就是 PythonC 的对接函数,举个栗子:

static PyObject *test(PyObject *self, PyObject *args){
    int arg1, arg2;
    if(!(PyArg_ParseTuple(args, "ii", &arg1, &arg2))){
        return NULL;
    }
    return Py_BuildValue("i",  arg1 + arg2 * 10);
}

我们可以看到这个函数和传统意义上的 C 用法用点不同了,特别是在函数形参那边的PyObject self, PyObject args

第一个参数是 PyObject *self,这个参数是Python内部使用的,可以不用管;

第二个参数是 PyObject *args,这个参数非常重要,因为这个揽括了所有传给函数的参数。它是一个参数列表,把所有的参数都整合到

一个 string, 因此,如果我们需要解析这些参数需要用特定的姿势!我们需要用到 PyArg_ParseTuple 来解开这个扣人心弦的入口!

PyArg_ParseTuple 函数说明:

args就是需要转换的参数;

ii 就是参数类型的格式符号,这里代表 int init;(更多类型请看官网:https://docs.python.org/2/c-a...)

后面的 &arg1, &arg2 就是通过参数解析提取的值,存放的地方,这有点类似 C 的 scanf

很明显,这三个参数,在数量上存在这一定的联系,也就是,传进去两个 int参数,那么就肯定是对应了两个 ii,然后就会对应存在 两个实际的"容器"内,这里要注意,一不小心就会 Segmentation fault

对应有解析参数的,肯定也有 C模块 值转换成 Python对象 的,那就是 Py_BuildValue

Py_BuildValue 函数说明:

# 对比着来看
PyArg_ParseTuple(args, "ii", &arg1, &arg2)    Python -> C模块
Py_BuildValue("i",  arg1 + arg2 * 10);        C 模块 -> Python

第一个参数 和 PyArg_ParseTuple 的第二个参数一样,都是格式化符号;

第二个参数是需要转换的参数,函数 Py_BuildValue 会把所有的返回指都组装成 tuplePython

相关的官方文档:https://docs.python.org/2/c-a...

2. 定义方法列表
# 示例
static PyMethodDef  testMethods[] = {
    {"test", test, METH_VARARGS, "This is test"},
    {NULL, NULL, 0, NULL}
};

PyMethodDef 是一个 C结构体,用来完成一个映射,也就是便于方法查找,我们把需要被外面调用的方法都记录在这表内。

PyMethodDef 结构体成员说明:

第一个字段:在 Python 里面使用的方法名;

第二个字段:C 模块内的函数名;

第三个字段:方法参数类型,是无参数(METH_NOARGS) , 还是有位置参数(METH_VARARGS), 还是其他等等;

第四个字段:方法描述,就是通过 help() 或者 doc 可以看到的;

需要注意的是,这个列表的最后必须以 {NULL, NULL, 0, NULL} 的形式来代表声明结束,也有一些大佬用 {NULL, NULL},不过个人觉得写完整也不会累到哪去, 相反会比较直观。

# PyMethodDef 结构体定义源码, 取自 Python2.7 Include/methodobject.h
struct PyMethodDef {
    const char  *ml_name;   /* The name of the built-in function/method */
    PyCFunction  ml_meth;   /* The C function that implements it */              
    int      ml_flags;     /* Combination of METH_xxx flags, which mostly 
                              describe the args expected by the C func */
    const char  *ml_doc;    /* The __doc__ attribute, or NULL */
};

正因为存在这样的一份记录表,Python 才能够寻找到相应的函数

同样的,如果我们想要找一个模块的 Python 函数 对应什么的 C模块方法,也能通过这地方比较粗暴得知,例如 Python 的 list

# 取自 Python2.7 object/listobject.c
static PyMethodDef list_methods[] = {
    {"__getitem__", (PyCFunction)list_subscript, METH_O|METH_COEXIST, getitem_doc},
    {"__reversed__",(PyCFunction)list_reversed, METH_NOARGS, reversed_doc},
    {"__sizeof__",  (PyCFunction)list_sizeof, METH_NOARGS, sizeof_doc},
    {"append",          (PyCFunction)listappend,  METH_O, append_doc},
    {"insert",          (PyCFunction)listinsert,  METH_VARARGS, insert_doc},
    {"extend",      (PyCFunction)listextend,  METH_O, extend_doc},
    {"pop",             (PyCFunction)listpop,     METH_VARARGS, pop_doc},
    {"remove",          (PyCFunction)listremove,  METH_O, remove_doc},
    {"index",           (PyCFunction)listindex,   METH_VARARGS, index_doc},
    {"count",           (PyCFunction)listcount,   METH_O, count_doc},
    {"reverse",         (PyCFunction)listreverse, METH_NOARGS, reverse_doc},
    {"sort",            (PyCFunction)listsort,    METH_VARARGS | METH_KEYWORDS, sort_doc},
    {NULL,              NULL}           /* sentinel */
};
3. 实现初始化函数 (关键)
PyMODINIT_FUNC inittest(){
    Py_InitModule("test", testMethods);
}

需要特别注意的是,这个函数名不能像上面那样,这是有规定的,必须是 init + 模块名字,比方说,我的最后编译出来的文件是 test.so, 那我的函数名就是 inittest, 这样在 Python 导入 test 模块时,才能找到这个函数并调用。

这里调用了 Py_InitModule 函数来将模块名字和映射表结合在一起。表示 test 这个模块使用 testMethods 这个映射表。

4. 注意对象引用管理和内存泄露

Python 在对象管理、内存管理上面,有引用计数标记-清除分代回收等策略,其中引用计数发生的频率会非常非常高,依赖这个通常已经能够解决大部分的对象残留问题了。

所以,在我们编写 C扩展 时,也需要时刻谨记这步.

主要会用到下面两个宏:

1. 增加引用: Py_INCREF    例: Py_INCREF(pObj1)
2. 减少引用: Py_DECREF    例: Py_DECREF(pObj1)

不能直接使用 free/delete 释放,必须使用 Py_DECREF(pObj1), 然后 pObj1 = NULL 即可。

具体可以参考:
官网:https://docs.python.org/2/ext...
垃圾回收机制: http://www.wklken.me/posts/20...

编译导出
gcc  -I /usr/include/python2.7/ -fpic --shared -o test.so test.c
完整例子

test.c

#include
static PyObject *test(PyObject *self, PyObject *args){
    int arg1, arg2;
    if(!(PyArg_ParseTuple(args, "ii", &arg1, &arg2))){
        return NULL;
    }
    return Py_BuildValue("i",  arg1 + arg2 * 10);
}

static PyMethodDef  testMethods[] = {
    {"test", test, METH_VARARGS, "This is test"},
    {NULL, NULL}
};

PyMODINIT_FUNC inittest(){
    Py_InitModule("test", testMethods);
}

test.py

import test
print test.test(1, 2)   # 输出 21

欢迎各位大神指点交流, QQ讨论群: 258498217
转载请注明来源: https://segmentfault.com/a/11...

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/42055.html

相关文章

  • WebAssembly 体验:从零开始重构计算模块

    摘要:初体验从零开始重构计算模块从属于笔者的前端入门与工程实践,更多相关资料文章参考学习与实践资料索引和学习与实践资料索引。不过笔者也只是了解其概念而未真正付诸实践,本文即是笔者在将我司某个简单项目中的计算模块重构为过程中的总结。 WebAssembly 初体验:从零开始重构计算模块从属于笔者的 Web 前端入门与工程实践,更多相关资料文章参考WebAssembly 学习与实践资料索引和 ...

    netmou 评论0 收藏0
  • Python 体验

    摘要:广告欢迎大家到路飞学城学习很喜欢薪时代这个词所以我们要拥抱人工智能拥抱前提下载,如果是电脑会自带。 广告:欢迎大家到 路飞学城 学习 Python~ 很喜欢 Python 薪时代 这个词~所以我们要拥抱 人工智能~拥抱 Python~ 前提:下载 Python,如果是 Mac 电脑会自带 Python。 Hello World! Mac 电脑打开终端输入: cd desktop tou...

    roundstones 评论0 收藏0
  • 我的Go+语言体验——(速爽到极致的Go+体验感)The Go+ Playground

    摘要:欢迎大家参与我的语言初体验活动活动地址本文为大家带来最直接的语言测试体验,欢迎点赞评论收藏。前言优势对于科学数据提供了更强大的数学表达式功能,例如有理数表达式有理数表达式,可简化数据科学目的的编程。 欢迎大家参与【我的Go+语言初体验】活动: 活动地址:【https://bbs.csdn.n...

    baiy 评论0 收藏0
  • freeline 快速入门 - 体验

    摘要:性能方面内部采用了类似的开源工具的多工程多任务并发思想并对代码及资源编译流程做了深入的性能优化。或者使用命令编译部署就不会出现问题最后的建议是如果集成了环境,就请使用来编译。如果想,最好去掉的集成,别作哦 本文环境 android studio 2.1.2 window 国外 vpn...............如果你不能连上国外的网站,请老老实实买一个 vpn 介绍..........

    draveness 评论0 收藏0
  • Django 项目配置体验(一)

    摘要:静态资源路径可以有多个,所以这里使用一个列表进行配置再次进入,完美后记现在只涉及到了项目的配置和一些基础的配置,没有涉及到请求从开始到完成的任何内容。下篇教程将集中进行记录。 前言 推荐使用 virtualenv 创建 python 虚拟环境,防止因为使用 pip 安装依赖到全局引起版本冲突的问题,PyCharm 默认会生成一个 venv 目录并创建虚拟环境,使用 IDE 自带的终端...

    Wildcard 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<