python多核并行处理怎么实现

45次阅读

共计 913 个字符，预计需要花费 3 分钟才能阅读完成。

在 Python 中实现多核并行处理可以使用多种方法，如下所示：

使用 multiprocessing 模块：该模块提供了创建和管理进程的功能，可以使用 Process 类创建多个进程，并通过 join() 方法等待所有进程执行完毕。示例代码如下：

from multiprocessing import Process

def func():
    # 在此处编写需要并行处理的代码

if __name__ == '__main__':
    processes = []
    
    for i in range(4):
        p = Process(target=func)
        processes.append(p)
        p.start()
    
    for p in processes:
        p.join()

使用 concurrent.futures 模块：该模块提供了高级的并发执行功能，可以使用 ProcessPoolExecutor 类创建一个进程池，并使用 submit() 方法提交任务到进程池中。示例代码如下：

from concurrent.futures import ProcessPoolExecutor

def func():
    # 在此处编写需要并行处理的代码

if __name__ == '__main__':
    with ProcessPoolExecutor(max_workers=4) as executor:
        futures = [executor.submit(func) for _ in range(4)]

        for future in futures:
            future.result()

使用 joblib 库：该库提供了简单易用的并行处理功能，可以使用 Parallel 函数创建一个并行处理的上下文，并在其中执行需要并行处理的函数。示例代码如下：

from joblib import Parallel, delayed

def func():
    # 在此处编写需要并行处理的代码

if __name__ == '__main__':
    Parallel(n_jobs=4)(delayed(func)() for _ in range(4))