Python的C拓展简介

本文介绍如何使用Python的C拓展来提升程序性能,包括环境搭建、HelloWorld实例、参数传递及返回值处理等内容。

Python的C拓展

1. 环境准备

如果是Linux只需要安装Python3.x + Python-dev。

Windows下稍微复杂点,VS2017 + Python3.6.3

VS2017可用社区版,需要选择安装的环境如下:

2. Hello World !

2.1 C模块封装

以计算两个数相加为例,选择任意文件夹,新建如下C语言源码:

// 文件名 calc.c
#include <Python.h>

int add(int x, int y){ // C 函数
    return x + y;
}

static PyObject *calc_add(PyObject *self, PyObject *args){

    int x, y;
    // Python传入参数
    // "ii" 表示传入参数为2个int型参数,将其解析到x, y变量中
    if(!PyArg_ParseTuple(args, "ii", &x, &y))
        return NULL;
    return PyLong_FromLong(add(x, y));
}

// 模块的方法列表
static PyMethodDef CalcMethods[] = {
     {"add", calc_add, METH_VARARGS, "函数描述"},
     {NULL, NULL, 0, NULL}
};

// 模块
static struct PyModuleDef calcmodule = {
    PyModuleDef_HEAD_INIT,
    "calc", // 模块名
    NULL, // 模块文档
    -1,       /* size of per-interpreter state of the module,
                or -1 if the module keeps state in global variables. */
    CalcMethods
};

// 初始化
PyMODINIT_FUNC PyInit_calc(void)
{
    return PyModule_Create(&calcmodule);
}

其中,静态函数 calc_add 以python的C接口方式封装了add函数,命名方式模块名_函数名

静态PyMethodDef列表 变量 CalcMethods 包含了该模块方法的描述

静态struct PyModuleDef结构体 变量 calcmodule 定义了模块的描述

PyInit_calc 函数初始化了模块,命名方式 PyInit_模块名

2.2 C源码编译

在VS2017中可以直接生成 .dll 文件,然后改名为 .pyd 就可在python程序中引入该模块了,但是,这不“清真”,正确的姿势是写一个setup.py然后通过python调cl.exe编译。

新建setup.py文件,内容如下:

# setup.py

from distutils.core import setup, Extension

module1 = Extension('calc',
                    sources=['calc.c'])

setup(name='calc_model',
      version='1.0',
      description='Hello ?',
      ext_modules=[module1]
)

然后,从Windows的命令行(命令提示符)下进入到这个文件夹下,执行:

python setup.py build

即可完成编译,如果出现某 .bat文件未找到,说明你的VS没有安装相应的依赖(Linux下编译不成功原因可能是没有装python-dev),按文章开头给出的依赖库添加修改(此时不需要重新安装VS)。

编译结束后,在该文件夹下会出现 build 文件夹,进入该文件夹,出现如下两个文件夹:

进入 lib.xxx那个文件夹,里面有个 .pyd 结尾的文件(Linux下为 .so 结尾),这就是我们编译好的python模块了,如下:

当然,你也可以改名为 calc.pyd 比较好看,不过这不影响调用。

2.3 Python调用

这部分就简单了,进入含有编译好的 .pyd 文件夹,新建如下文件:

import calc

print(calc.add(12, 21))

这就是一个普通库,这样调用就OK了。

3. Python的参数传递以及C的返回值相关问题

这部分我直接甩出文件就行,编译及调用过程与上面一样。

C 文件
/**构建返回值
Py_BuildValue("")                        None
Py_BuildValue("i", 123)                  123
Py_BuildValue("iii", 123, 456, 789)      (123, 456, 789)
Py_BuildValue("s", "hello")              'hello'
Py_BuildValue("y", "hello")              b'hello'
Py_BuildValue("ss", "hello", "world")    ('hello', 'world')
Py_BuildValue("s#", "hello", 4)          'hell'
Py_BuildValue("y#", "hello", 4)          b'hell'
Py_BuildValue("()")                      ()
Py_BuildValue("(i)", 123)                (123,)
Py_BuildValue("(ii)", 123, 456)          (123, 456)
Py_BuildValue("(i,i)", 123, 456)         (123, 456)
Py_BuildValue("[i,i]", 123, 456)         [123, 456]
Py_BuildValue("{s:i,s:i}", "abc", 123, "def", 456)    {'abc': 123, 'def': 456}
Py_BuildValue("((ii)(ii)) (ii)", 1, 2, 3, 4, 5, 6)          (((1, 2), (3, 4)), (5, 6))
**/

#include<Python.h>


static PyObject *value_commonArgs(PyObject *self, PyObject *args){
    // 传入普通参数,例如: s = value.com(1, 2.3, "Hello C")
    int x;
    double y;
    char *z;
    if(!PyArg_ParseTuple(args, "ids", &x, &y, &z))
        return NULL;
    printf("The args is %d and %f and %s .\n", x, y, z);
    // 返回(x, y, z)的元组
    return Py_BuildValue("(i,d,s)",x, y, z);
}



static PyObject *value_tupleTest(PyObject *self, PyObject *args){
    // t = value.tut((1, 3), "Tuple")
    int x, y;
    char *z;
    if(!PyArg_ParseTuple(args, "(ii)s", &x, &y, &z))
        return NULL;
    printf("The args is (%d, %d), %s .\n", x, y, z);

    // return ([1, 2], "hello")
    return Py_BuildValue("[i,i]s", x, y, z);
}



static PyObject *value_some(PyObject *self, PyObject *args){
    /* 可选参数,可能是下面几种, “|” 代表后面的参数可选
        c = value.som(1)
        value.som(1, 3)
        value.som(1, 2, "hello")
    */
    int x = 0, y = 0;
    char *z = NULL;
    if(!PyArg_ParseTuple(args, "i|is", &x, &y, &z))
        return NULL;
    printf("x is: %d\n", x);
    printf("y is: %d\n", y);
    if(z != NULL)printf("z is: %s\n", z);
    return Py_BuildValue("[i,i,s]", x, y, z);
}



static PyObject *value_kwargs(PyObject *self, PyObject *args, PyObject *kwargs){
    /* 带有键的参数
        value.kws(c=3)
        value.kws(d=2)
        value.kws(c=45, d=89)
    */

    int c = 0, d = 0;

    static char *keys[] = {"c", "d", NULL};

    if (!PyArg_ParseTupleAndKeywords(args, kwargs, "|ii", keys, &c, &d))
        return NULL;
    printf("The c : %d and d : %d\n", c, d);
    Py_RETURN_NONE;
}



static PyObject *value_listkwargs(PyObject *self, PyObject *args, PyObject *kwargs){
    /* 带键与不带键的参数
        value.lks(b=1, a=2)
        value.lks(1, 2, c=45)
        value.lks(3, 4, c=5, d=6)
        value.lks(d=3, c=4, b=5, a=6)
    */

    int a = 0, b = 0;
    int c = 0, d = 0;

    static char *keys[] = {"a", "b", "c", "d", NULL};

    if (!PyArg_ParseTupleAndKeywords(args, kwargs, "ii|ii", keys, &a, &b, &c, &d))
        return NULL;
    printf("a: %d, b: %d, c: %d, d: %d\n", a, b, c, d);
    Py_RETURN_NONE;
}



// 模块的方法列表
static PyMethodDef ValueMethods[] = {
     {"com", value_commonArgs, METH_VARARGS, "Common args."},
     {"tut", value_tupleTest, METH_VARARGS, "Tuple args."},
     {"som", value_some, METH_VARARGS, "Some args."},
     {"kws", (PyCFunction)value_kwargs, METH_VARARGS | METH_KEYWORDS,"kwargs doc."},
     {"lks", (PyCFunction)value_listkwargs, METH_VARARGS | METH_KEYWORDS,"List and kwargs doc."},
     {NULL, NULL, 0, NULL}
};



// 模块
static struct PyModuleDef valuemodule = {
    PyModuleDef_HEAD_INIT,
    "value", // 模块名
    "The python and c demo.", // 模块文档
    -1,
    ValueMethods
};



// 初始化
PyMODINIT_FUNC PyInit_value(void)
{
    return PyModule_Create(&valuemodule);
}
编译文件
from distutils.core import setup, Extension

module1 = Extension('value',
                    sources=['value.c'])

setup(name='valueTest_model',
      version='1.0',
      description='',
      ext_modules=[module1]
)
Python 调用文件
import value
s = value.com(1, 2.3, "Hello C")
print("Args: ", s)

t = value.tut((1, 3), "Tuple")
print("Tuple: ", t)

c = value.som(1)
value.som(1, 3)
value.som(1, 2, "hello")

value.kws(c=3)
value.kws(d=2)
value.kws(c=45, d=89)

value.lks(b=1, a=2)
value.lks(1, 2, c=45)
value.lks(3, 4, c=5, d=6)
value.lks(d=3, c=4, b=5, a=6)

<think>嗯,用户想知道如何扩展Python代码的功能或性能,特别是扩展性设计与实现。首先,我需要理解扩展性的含义。扩展性通常指系统能够通过增加资源来提升处理能力,或者在添加新功能时不需要大幅修改现有代码。对于Python来说,常见的扩展方法包括模块化设计、使用设计模式、异步编程、性能优化技术,以及利用C扩展或混合编程等。 模块化设计是关键,把代码拆分成独立模块,降低耦合度。这样在添加新功能时,只需要增加新模块而不会影响旧代码。设计模式方面,像工厂模式、策略模式、装饰器模式都可以提升扩展性。比如工厂模式可以在不修改客户端代码的情况下添加新产品类。 异步编程能提高程序的并发处理能力,尤其是在I/O密集型任务中。使用asyncio库或者异步框架如FastAPI,可以显著提升性能。此外,性能优化方面,算法优化、数据结构选择、缓存技术(如LRU缓存)、并发处理(多线程、多进程)都是有效的方法。 对于计算密集型任务,Python可能不够高效,这时候可以考虑用C扩展或者Cython来加速关键部分。混合编程结合了Python的易用性和C的高性能。另外,利用微服务架构将系统拆分成独立服务,每个服务可以独立扩展,比如使用Flask或FastAPI构建RESTful服务,通过消息队列进行通信。 依赖注入和插件架构也是提升扩展性的好方法。依赖注入通过外部配置管理依赖,方便替换实现。插件架构允许动态加载功能模块,比如使用importlib库动态导入插件。 性能分析工具如cProfile和line_profiler可以帮助找到瓶颈,针对性地优化。例如,如果发现某个函数耗时较多,可以用Cython重写或者优化算法。 用户可能需要具体的例子来理解这些概念。例如,展示一个使用装饰器模式扩展功能的代码片段,或者用asyncio实现异步处理的例子。同时,应该考虑用户的实际应用场景,是Web应用、数据处理还是其他领域,不同的场景可能适用不同的扩展方法。 需要确保回答结构清晰,分点说明,每个方法都有示例代码和解释。同时,引用相关的参考资料,比如站内提到的异步微服务设计和Python程序设计思想。还要注意LaTeX格式的正确使用,比如行内公式用$...$,独立公式用$$...$$,虽然当前问题可能不涉及数学公式,但如果有性能分析的数学表达式,需要正确应用。 最后,生成相关问题,帮助用户进一步学习,比如如何选择设计模式、异步编程的具体实践、性能优化工具的使用等。确保回答真实可靠,参考已有的引用资料,并在适当位置添加引用标识。</think># Python代码扩展性设计与实现 ## 一、架构设计原则 1. **模块化设计**:采用$MVC$模式分离数据层、业务层和展示层,通过`__init__.py`建立模块化结构 ```python # 项目结构示例 project/ ├── core/ │ ├── __init__.py │ ├── data_processing.py │ └── business_logic.py └── utils/ ├── logger.py └── validator.py ``` 2. **依赖注入**:使用`ABC`抽象基类实现控制反转 ```python from abc import ABC, abstractmethod class DatabaseService(ABC): @abstractmethod def get_data(self): pass class MySQLService(DatabaseService): def get_data(self): return "Data from MySQL" ``` ## 二、性能扩展方案 1. **异步编程**:使用`asyncio`实现非阻塞IO操作[^2] ```python import asyncio async def fetch_data(url): # 模拟网络请求 await asyncio.sleep(1) return f"Data from {url}" async def main(): tasks = [fetch_data(url) for url in ['url1', 'url2']] return await asyncio.gather(*tasks) ``` 2. **混合编程**:关键性能模块使用Cython加速 ```cython # cython_math.pyx def cython_sum(int n): cdef int total = 0 cdef int i for i in range(n): total += i return total ``` ## 三、功能扩展策略 1. **插件架构**:使用`importlib`实现动态加载 ```python import importlib def load_plugin(plugin_name): module = importlib.import_module(f"plugins.{plugin_name}") return module.Plugin() ``` 2. **装饰器模式**:通过装饰器增强函数功能 ```python def logging_decorator(func): def wrapper(*args, **kwargs): print(f"Calling {func.__name__}") return func(*args, **kwargs) return wrapper @logging_decorator def process_data(data): # 数据处理逻辑 return data.upper() ``` ## 四、性能优化技巧 1. **内存管理**:使用生成器处理大数据 $$ \sum_{i=1}^{n} i = \frac{n(n+1)}{2} $$ ```python def large_data_processor(): for i in range(10**6): yield i * 2 ``` 2. **缓存加速**:应用LRU缓存策略 ```python from functools import lru_cache @lru_cache(maxsize=128) def fibonacci(n): if n < 2: return n return fibonacci(n-1) + fibonacci(n-2) ``` ## 五、扩展性验证方法 1. 使用`unittest`进行模块测试 2. 通过`pytest-benchmark`进行性能基准测试 3. 使用`mypy`进行类型检查
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值