淺談python和C語(yǔ)言混編的幾種方式(推薦)
Python這些年風(fēng)頭一直很盛,占據(jù)了很多領(lǐng)域的位置,Web、大數(shù)據(jù)、人工智能、運(yùn)維均有它的身影,甚至圖形界面做的也很順,乃至full-stack這個(gè)詞語(yǔ)剛出來(lái)的時(shí)候,似乎就是為了描述它。
Python雖有GIL的問(wèn)題導(dǎo)致多線程無(wú)法充分利用多核,但后來(lái)的multiprocess可以從多進(jìn)程的角度來(lái)利用多核,甚至affinity可以綁定具體的CPU核,這個(gè)問(wèn)題也算得到解決。雖基本為全棧語(yǔ)言,但有的時(shí)候?yàn)榱诵?,可能還是會(huì)去考慮和C語(yǔ)言混編?;炀幨怯?jì)算機(jī)里一個(gè)不可回避的話題,涉及的東西很多,技術(shù)、架構(gòu)、團(tuán)隊(duì)情況、管理、客戶等各個(gè)環(huán)節(jié)可能對(duì)其都有影響,混編這個(gè)問(wèn)題我想到時(shí)候再開(kāi)一貼專門(mén)討論。本文只講python和C混編的方式,大致有如下幾種方式(本文背景是linux,其他平臺(tái)可以類比):
共享庫(kù)
使用C語(yǔ)言編譯產(chǎn)生共享庫(kù),然后python使用ctype庫(kù)里的cdll來(lái)打開(kāi)共享庫(kù)。
舉例如下,C語(yǔ)言代碼為
/* func.c */int func(int a)
{
return a*a;
}
python代碼為
#!/usr/bin/env python #test_so.pyfrom ctypes import cdll import os p = os.getcwd() + '/libfunc.so' f = cdll.LoadLibrary(p) print f.func(99)
測(cè)試如下
$ gcc -fPIC -shared func.c -o libfunc.so $ ./test_so.py 9801
subprocess
C語(yǔ)言設(shè)計(jì)一個(gè)完整的可執(zhí)行文件,然后python通過(guò)subprocess來(lái)執(zhí)行該可執(zhí)行文件,本質(zhì)上是fork+execve。
舉例如下,C語(yǔ)言代碼為
/* test.c */
#include <stdio.h>
int func(int a)
{
return a*a;
}
int main(int argc, char **argv)
{
int x;
sscanf(argv[1], "%d", &x);
printf("%d\n", func(x));
return 0;
}
Python代碼為
#!/usr/bin/env python
# test_subprocess.py
import os
import subprocess
subprocess.call([os.getcwd()+'/a.out', '99'])
測(cè)試如下
$ gcc test.c -o a.out
$ ./test_subprocess.py
9801
C語(yǔ)言中運(yùn)行python程序
C語(yǔ)言使用popen/system或者直接以系統(tǒng)調(diào)用級(jí)fork+exec來(lái)運(yùn)行python程序也是一種混編的手段了。
舉例如下,Python代碼如下
#!/usr/bin/env python # test.py import sys x = int(sys.argv[1]) print x*x
C語(yǔ)言代碼如下
/* test.c */
#include <stdio.h>
#include <stdlib.h>
int main()
{
FILE *f;
char s[1024];
int ret;
f = popen("./test.py 99", "r");
while((ret=fread(s,1,1024,f))>0) {
fwrite(s,1,ret,stdout);
}
fclose(f);
return 0;
}
測(cè)試如下
$ gcc test.c $ ./a.out 9801
python對(duì)C語(yǔ)言擴(kuò)展的支持
很多編程語(yǔ)言都為C語(yǔ)言擴(kuò)展添加了支持,這有兩種原因:(1)語(yǔ)言設(shè)計(jì)之初,可以充分的利用C語(yǔ)言已有的庫(kù)來(lái)做很多擴(kuò)展;(2)C語(yǔ)言的運(yùn)行效率高。
python也不例外,從誕生那天起,很多庫(kù)都是C語(yǔ)言寫(xiě)的。python的C語(yǔ)言擴(kuò)展中涉及到python的數(shù)據(jù)結(jié)構(gòu)與C語(yǔ)言的對(duì)應(yīng),擴(kuò)展方法其實(shí)是用C語(yǔ)言編寫(xiě)一個(gè)共享庫(kù),只是這個(gè)共享庫(kù)中的接口是一個(gè)規(guī)范的,可以被python識(shí)別的。
為了說(shuō)明如何擴(kuò)展,我這里先假設(shè)一個(gè)在python下的函數(shù)功能,代碼如下
def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res
如上,希望的函數(shù)功能是,參數(shù)是任意多個(gè)數(shù)字組成的列表(姑且排除其他數(shù)據(jù)結(jié)構(gòu)),返回每個(gè)列表的元素之和的乘積。
姑且先把python代碼寫(xiě)了,如下所示
#!/usr/bin/env python # test.py import colin def func(*a): res=1 for i in range(len(a)): res *= sum(a[i]) return res a = [1,2,3] b = [4,5,6] c = [7,8] d = [9] e = [10,11,12,13,14] f = colin.func2(99) g = colin.func3(a,b,c,d,e) h = func3(a,b,c,d,e) print "f = ",f print "g = ",g print "h = ",h
帶上之前一直測(cè)試的平方func,這個(gè)實(shí)現(xiàn)相對(duì)簡(jiǎn)單,希望python寫(xiě)出來(lái)的func可以和C語(yǔ)言擴(kuò)展出來(lái)的結(jié)果一致。
先用C語(yǔ)言寫(xiě)上這些函數(shù)的實(shí)現(xiàn),其中func3用上了一個(gè)表示任意多個(gè)任意長(zhǎng)的數(shù)組的數(shù)據(jù)結(jié)構(gòu)y_t,而x_t用來(lái)表示單個(gè)數(shù)組。
/* colin.h */
#ifndef Colin_h
#define Colin_h
typedef struct {
int *a;
int len;
} x_t;
typedef struct {
x_t *ax;
int len;
} y_t;
int func2(int a);
int func3(y_t *p);
void free_y_t(y_t *p);
#endif
/* colin.c */
#include "colin.h"
#include <stdlib.h>
int func2(int a)
{
return a*a;
}
int func3(y_t *p)
{
int result;
int sum;
int i, j;
result = 1;
for(i=0;i<p->len;i++) {
sum = 0;
for(j=0;j<p->ax[i].len;j++)
sum += p->ax[i].a[j];
result *= sum;
}
return result;
}
void free_y_t(y_t *p)
{
int i;
for(i=0;i<p->len;i++) {
free(p->ax[i].a);
}
free(p->ax);
}
上面定義了三個(gè)函數(shù),func2代表平方,func3代表之前所說(shuō)的功能,又因y_t這個(gè)結(jié)構(gòu)可能都是動(dòng)態(tài)分配出來(lái)的,所以給個(gè)歸還內(nèi)存的方法。
剛才說(shuō)過(guò)python擴(kuò)展的話,需要把這個(gè)共享庫(kù)的接口“標(biāo)準(zhǔn)化”一下。于是我們就包裝一下,并給個(gè)python加載的入口。
/* wrap.c */
#include <Python.h>
#include <stdlib.h>
#include "colin.h"
PyObject* wrap_func2(PyObject* self, PyObject* args)
{
int n, result;
/* 從參數(shù)列表中導(dǎo)出一個(gè)整形,用"i" */
if (!PyArg_ParseTuple(args, "i", &n))
return NULL;
/* 用C語(yǔ)言的庫(kù)實(shí)現(xiàn)來(lái)計(jì)算 */
result = func2(n);
/* 計(jì)算結(jié)果必須要導(dǎo)成python識(shí)別的類型 */
return Py_BuildValue("i", result);
}
PyObject* wrap_func3(PyObject* self, PyObject* args)
{
int n, result;
int i, j;
int size, size2;
PyObject *p,*q;
y_t *y;
y = malloc(sizeof(y_t));
/* 先數(shù)數(shù)有多少個(gè)參數(shù),也就是列表的個(gè)數(shù) */
size = PyTuple_Size(args);
/* 把數(shù)組的個(gè)數(shù)先分配了 */
y->len = size;
y->ax = malloc(sizeof(x_t)*size);
/* 遍歷python里各個(gè)列表(參數(shù)) */
for(i=0;i<size;i++) {
/* 先獲得第i個(gè)參數(shù),是一個(gè)列表 */
p = PyTuple_GetItem(args, i);
/* 獲得列表的長(zhǎng)度 */
size2 = PyList_Size(p);
/* 為數(shù)組分配好空間 */
y->ax[i].len = size2;
y->ax[i].a = malloc(sizeof(int)*size2);
/* 遍歷列表,依次把列表里的數(shù)轉(zhuǎn)到數(shù)組里 */
for(j=0;j<size2;j++) {
q = PyList_GetItem(p, j);
PyArg_Parse(q,"i",&y->ax[i].a[j]);
}
}
/* 用C語(yǔ)言的庫(kù)實(shí)現(xiàn)來(lái)計(jì)算 */
result = func3(y);
free_y_t(y);
free(y);
/* 結(jié)果轉(zhuǎn)成python識(shí)別格式 */
return Py_BuildValue("i", result);
}
/* 這是接口列表,加載時(shí)是只加載此列表的地址,所以這個(gè)數(shù)據(jù)結(jié)構(gòu)不能放棧(局部變量)內(nèi),會(huì)被清掉 */
static PyMethodDef colinMethods[] =
{
{"func2", wrap_func2, METH_VARARGS, "Just a test"},
{"func3", wrap_func3, METH_VARARGS, "Just a test"},
{NULL, NULL, METH_NOARGS, NULL}
};
/* python加載的時(shí)候的接口 */
/* 注意,既然庫(kù)名叫colin,此函數(shù)必須交initcolin */
void initcolin()
{
PyObject *m;
m = Py_InitModule("colin", colinMethods);
}
過(guò)程中,我猜測(cè)PyArg_VaParse應(yīng)該功能更為強(qiáng)大,可是反復(fù)測(cè)沒(méi)有成功,也沒(méi)細(xì)看文檔。
測(cè)試一下
$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so $ ./test.py f = 9801 g = 729000 h = 729000
可以看到,C語(yǔ)言寫(xiě)的函數(shù)和python寫(xiě)的函數(shù)結(jié)果一致。
以上這篇淺談python和C語(yǔ)言混編的幾種方式(推薦)就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python 實(shí)現(xiàn)一次性在文件中寫(xiě)入多行的方法
今天小編就為大家分享一篇python 實(shí)現(xiàn)一次性在文件中寫(xiě)入多行的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-01-01
python+matplotlib繪制旋轉(zhuǎn)橢圓實(shí)例代碼
這篇文章主要介紹了python+matplotlib繪制旋轉(zhuǎn)橢圓實(shí)例代碼,具有一定借鑒價(jià)值,需要的朋友可以參考下2018-01-01
全面解讀Python Web開(kāi)發(fā)框架Django
Django是一個(gè)開(kāi)源的Web應(yīng)用框架,由Python寫(xiě)成。采用MVC的軟件設(shè)計(jì)模式,主要目標(biāo)是使得開(kāi)發(fā)復(fù)雜的、數(shù)據(jù)庫(kù)驅(qū)動(dòng)的網(wǎng)站變得簡(jiǎn)單。Django注重組件的重用性和“可插拔性”,敏捷開(kāi)發(fā)和DRY法則(Don’t Repeat Yoursef)。2014-06-06
用python修改excel表某一列內(nèi)容的操作方法
這篇文章主要介紹了用python修改excel表某一列內(nèi)容的操作代碼,在實(shí)現(xiàn)過(guò)程中用到openpyxl這個(gè)庫(kù),要生成隨機(jī)數(shù)就要有random這個(gè)庫(kù),具體代碼跟隨小編一起看看吧2021-06-06
Python基于OpenCV實(shí)現(xiàn)視頻的人臉檢測(cè)
這篇文章主要為大家詳細(xì)介紹了Python基于OpenCV實(shí)現(xiàn)視頻的人臉檢測(cè),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-01-01
matplotlib事件處理基礎(chǔ)(事件綁定、事件屬性)
這篇文章主要介紹了matplotlib事件處理基礎(chǔ)(事件綁定、事件屬性),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-02-02
PyQt5 實(shí)現(xiàn)字體大小自適應(yīng)分辨率的方法
今天小編就為大家分享一篇PyQt5 實(shí)現(xiàn)字體大小自適應(yīng)分辨率的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06
python tkinter實(shí)現(xiàn)連連看游戲
這篇文章主要介紹了python tkinter實(shí)現(xiàn)連連看游戲的示例,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2020-11-11
關(guān)于python導(dǎo)入模塊import與常見(jiàn)的模塊詳解
今天小編就為大家分享一篇關(guān)于python導(dǎo)入模塊import與常見(jiàn)的模塊詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-08-08

