测试不同矩阵乘法的效率

Aline744

CPU = E52630V4  GPU = K40C
可以看出，python里直接用循环计算矩阵乘法效率极其低下，用多线程速度不升反降，原因是python的多线程不是真正的多线程，并不能充分利用CPU性能。使用numpy和cupy显然能大幅度提升速度。由于cupy是GPU上的库，因此在小规模运算时比numpy慢一些。另外cupy似乎还有一个启动时间，第一次运行明显很慢。

1. import time
   
2. import numpy as np
   
3. import cupy as cp
   
4. import matplotlib.pyplot as plt
   
5. from threading import Thread as TH
   
6. 
   
7. arr_size = 12
   
8. time_libFree = []
   
9. time_multiTh = []
   
10. time_np = []
    
11. time_cp = []
    
12. if_cal_1 = True
    
13. if_cal_2 = True
    
14. 
    
15. def task(a, b, c, x, y):
    
16.     for index in range(arr_size):
    
17.         c[x][y] += a[x][index] * b[index][y]
    
18. 
    
19. for iter in range(120):
    
20.     arr_size = 50*iter
    
21. 
    
22.     a = np.random.rand(arr_size, arr_size)
    
23.     b = np.random.rand(arr_size, arr_size)
    
24. 
    
25.     #矩阵乘法耗时测试
    
26.     #只用循环
    
27.     t1 = time.time()
    
28.     c = np.zeros((arr_size, arr_size))
    
29.     if if_cal_1:  #循环做矩阵乘法，耗时相当长，因此当时间过长时不再计算此项
    
30.         for x in range(arr_size):
    
31.             for y in range(arr_size):
    
32.                 for index in range(arr_size):
    
33.                     c[x][y] += a[x][index] * b[index][y]
    
34.         time_libFree.append(time.time() - t1)
    
35.     else :
    
36.         time_libFree.append(time_libFree[-1])
    
37. 
    
38.     if time_libFree[-1] > 10:
    
39.         if_cal_1 = False
    
40. 
    
41.     #多线程
    
42.     t1 = time.time()
    
43.     c = np.zeros((arr_size, arr_size))
    
44.     index = 0
    
45.     if if_cal_2:  #循环做矩阵乘法，耗时相当长，因此当时间过长时不再计算此项
    
46.         for x in range(arr_size):
    
47.             for y in range( int(arr_size / 5) ):
    
48.                 th1 = TH(target = task, args = (a, b, c, x, 5 * y + 0))
    
49.                 th2 = TH(target = task, args = (a, b, c, x, 5 * y + 1))
    
50.                 th3 = TH(target = task, args = (a, b, c, x, 5 * y + 2))
    
51.                 th4 = TH(target = task, args = (a, b, c, x, 5 * y + 3))
    
52.                 th5 = TH(target = task, args = (a, b, c, x, 5 * y + 4))
    
53. 
    
54.                 th1.start()
    
55.                 th2.start()
    
56.                 th3.start()
    
57.                 th4.start()
    
58.                 th5.start()
    
59. 
    
60.                 th1.join()
    
61.                 th2.join()
    
62.                 th3.join()
    
63.                 th4.join()
    
64.                 th5.join()
    
65. 
    
66.         time_multiTh.append(time.time() - t1)
    
67.     else :
    
68.         time_multiTh.append(time_multiTh[-1])
    
69. 
    
70.     if time_multiTh[-1] > 10:
    
71.         if_cal_2 = False
    
72. 
    
73.     #numpy
    
74.     t1 = time.time()
    
75.     c = np.matmul(a, b)
    
76.     time_np.append(time.time() - t1)
    
77. 
    
78.     #cupy
    
79.     a = cp.random.rand(arr_size, arr_size)
    
80.     b = cp.random.rand(arr_size, arr_size)
    
81.     t1 = time.time()
    
82.     c = cp.matmul(a, b)
    
83.     time_cp.append(time.time() - t1)
    
84. 
    
85.     print(iter)
    
86. 
    
87. plt.subplot(2, 1, 1)
    
88. plt.plot(time_libFree, label = "libFree")
    
89. plt.plot(time_multiTh, 'g', label = "multiTh")
    
90. plt.plot(time_np, 'r', label = "np")
    
91. plt.legend( )
    
92. plt.xlabel('array_size(x50)')
    
93. plt.subplot(2, 1, 2)
    
94. plt.plot(time_np, label = "np")
    
95. plt.plot(time_cp, 'r', label = "cp")
    
96. plt.legend( )
    
97. plt.xlabel('array_size(x50)')
    
98. 
    
99. plt.show()

复制代码

JuncoJet

很正常，Python本身就是库（Native Lib）的模式来加速

chipset009

脚本还谈效率啊？要效率就矩阵模版库，C++的一大堆网上，而且大部分免费

佚天

要效率时，谁还会用原生python写啊，不都是调用高性能的c/c++库吗。

scoopydoo

这就是 Python 的成功之处，自己只关心简单灵活好用，把苦力活留给 C/C++ 库去做。

chipset009

脚本都是调用库，就这都差远了。渲染一张图片的测试。

MF35_

你了解一下解释语言的底层机制，你就不会想在解释语言中写算法了

dabfxz

这里都是码农中的高手，为什么不和Matlab也比一下呢？是不是大家都不用它？

chipset009

dabfxz 发表于 2024-10-11 09:57
这里都是码农中的高手，为什么不和Matlab也比一下呢？是不是大家都不用它？

教学用就是教学用，易用程度被脚本甩出去8条街，效率被命令式语言甩出去8条街，价格被免费和商用SDK甩出银河系…