Thông báo: Download 4 khóa học Python từ cơ bản đến nâng cao tại đây.
Multiprocessing trong Python (xử lý đa tiến trình)
Trong bài này chúng ta sẽ tìm hiểu xử lý đa tiến trình trong Python. Đa xử lý hay còn gọi là multiprocessing, thường được dùng để xử lý nhiều tiến trình chạy song song.
Đa xử lý được tích hợp trong module multiprocessing, trong đó có lớp process, vì vậy bạn phải import thư viện này vào trước khi sử dụng nhé.
1. Multiprocessing là gì?
Multiprocessing là khả năng của một hệ thống hỗ trợ nhiều bộ vi xử lý processor cùng một lúc. Các ưng dụng trong hệ thống đa xử lý được chia thành nhiều quy trình nhỏ và chạy độc lập, và hệ điều hành sẽ phân bổ các luồng này cho bộ vi xử lý để cải thiện hiệu suất của hệ thống.
Câu hỏi đặt ra là tại sao ta phải sư dụng multiprocessing? Hãy đặt một ví dụ về máy tính có một processor nhé.
Bài viết này được đăng tại [free tuts .net]
Trong máy tính có một processor duy nhất, nếu processor được chỉ định chạy nhiều quy trình cùng lúc thì nó sẽ phải phân chia các task (tác vụ) bằng cách ngắt task này và chạy task kia một cách liên tục, điều này giúp đảm bảo tất cả các task đều được chạy.
Điều này giống như một người đầu bếp, khi khách hàng vào đặt nhiều món thì đầu bếp sẽ phải nấu nhiều món cùng lúc, phân chia thời gian giữa các món để đảm bảo món nào cũng được nấu đúng giờ.
Việc làm nhiều việc cùng lúc sẽ làm cho hiệu quả công việc không được tốt, sản phẩm hoàn thành không được như mong đời. Chính điều này đã xuất hiện thêm khái niệm xử lý đa tiến trình.
2. Multiprocessing trong Python là gì?
Multiprocessing trong Python là một module hỗ trợ lập trình viên có thể phân chia công việc theo nhiều quy trình. Bằng cách thông qua những phương thức (API) mà module cung cấp sẵn, chúng ta có thể quản lý được các task một cách dễ dàng.
Để hiểu rõ về xử lý tiến trình song song thì bạn phải biết có bao nhiêu core trong máy tính đang sử dụng, và module multiprocessing sẽ giúp bạn biết được điều đó, bằng cách sử dụng đoạn mã đơn giản dưới đây.
import multiprocessing print("Số lượng cpu : ", multiprocessing.cpu_count())
Kết quả trên máy tính của mình là:
Số lượng cpu : 8
Đấy chỉ là mới tham khảo số lượng CPU. Nếu bạn muốn tìm hiểu sâu hơn thì hãy tiếp tục với các ví dụ phía dưới nhé.
Ví dụ 1: Bây giờ hãy xem một đoạn code đơn giản dưới đây.
# importing module multiprocessing import multiprocessing def print_cube(num): """ Hàm in thể tích của khối lập phương """ print("Giá trị lập phương: {}".format(num * num * num)) def print_square(num): """ Hàm in diện tích hình vuông """ print("Diện tích hình vuông: {}".format(num * num)) # Chương trình chính if __name__ == "__main__": # Tạo hai tiến trình process p1 = multiprocessing.Process(target=print_square, args=(10, )) p2 = multiprocessing.Process(target=print_cube, args=(10, )) # Bắt đầu process 1 p1.start() # Bắt đầu process 2 p2.start() # Chờ tới khi process 1 hoàn thành p1.join() # Chờ tới khi process 2 hoàn thành p2.join() # Cả hai processes hoàn thành print("Done!")
Kết quả:
Diện tích hình vuông: 100 Giá trị lập phương: 1000 Done!
Giải thích một chút về chương trình:
- Đoạn code
import multiprocessing
dùng để khai báo sử dụng module multiprocessing. - Để tạo một process thì ta sử dụng class tên là Process, nó có hai tham số như sau:
target
là hàm được gọi để chạyargs
là các tham số sẽ truyền vào hàm target- Class
Process
cũng có thêm các tham số khác, nhưng chúng ta sẽ tìm hiểu nó sau nhé.
- Để bắt đầu một tiến trình thì ta gọi đến phương thức start.
- Để dừng chương trình tạm thời, tức là chờ hai tiến trình xử lý xong thì ta sử dụng phương thức join.
- Như vậy đoạn code
print("Done!")
chỉ được thực chạy khi hai tiến trình phía trên hoàn thành.
Nếu bạn vẫn chưa hình dung được việc xử lý các tiến trình là riêng biệt thì hãy tham khảo thêm ví dụ 2 dưới đây.
Ví dụ 2: Kiểm tra process ID và trạng thái của process.
# importing multiprocessing và os module import multiprocessing import os def worker1(): # In ra process id của worker1 print("ID của tiến trình worker1: {}".format(os.getpid())) def worker2(): # In ra process id của worker2 print("ID của tiến trình worker2: {}".format(os.getpid())) # Chương trình chính if __name__ == "__main__": # In ra process id của chương trình chính print("ID của chương trình chính: {}".format(os.getpid())) # Tạo processes p1 = multiprocessing.Process(target=worker1) p2 = multiprocessing.Process(target=worker2) # Chạy processes p1.start() p2.start() # Lấy process IDs print("ID của process p1: {}".format(p1.pid)) print("ID của process p2: {}".format(p2.pid)) # Chờ cho tới khi 2 process p1 và p2 hoàn thành p1.join() p2.join() # In thông báo cả hai đã hoàn thành print("Cả hai tiến trình đã hoàn thành!") # Kiểm tra trạng thái của hai process print("Process p1 có đang chạy? {}".format(p1.is_alive())) print("Process p2 có đang chạy? {}".format(p2.is_alive()))
Kết quả:
ID của chương trình chính: 2928 ID của process p1: 6160 ID của process p2: 9208 ID của tiến trình worker1: 6160 ID của tiến trình worker2: 9208 Cả hai tiến trình đã hoàn thành! Process p1 có đang chạy? False Process p2 có đang chạy? False
Giải thích một chút nhé:
- Phương thức is_alive() dùng để kiểm tra một tiến trình đang live hay không.
- Thuộc tính pid lưu trữ ID của tiến trình.
- Đoạn code
os.getpid()
dùng để lấy pid của chương trình chính.
Như bạn thấy, từ tiến trình chính mình đã phân chia thành hai tiến trình con p1 và p2, điều này tương tự như hình sau:
Bạn cũng có thể hiểu đơn giản là "một công việc được chia cho hai công nhân".
3. Multiprocessing có không gian bộ nhớ riêng
Trong Python, các tiến trình chạy độc lập và có không gian bộ nhớ riêng.
Ví dụ, bạn sử dụng một biến global ở hai tiến trình khác nhau thì việc thay giá trị cho biến đó ở hai tiến trình là không ảnh hưởng đến nhau.
Xem ví dụ dưới đây để hiểu rõ hơn.
import multiprocessing # Biến global là một mảng rỗng result = [] def process1(): """ Hàm chạy tiến trình 1""" global result result.append(100) print("Result trong process1:", result) if __name__ == "__main__": # Tạo process1 p1 = multiprocessing.Process(target=process1, args=()) # Bắt đầu p1.start() # Chờ cho tới khi p1 hoàn thành p1.join() # Kiểm tra xem result có thay đổi không print("Result trong main: ".format(result))
Kết quả:
Result trong process1: [100] Result trong main:
Giải thích nhé:
- Biến
result
là một biến cục bộ (global) - Trong
process1
mình đã thêm một phần tử cho biến này, sau đó in ra - Sau khi
process1
xử lý xong thì in ra giá trị result ở chương trình main - => Kết quả là giá trị khác nhau hoàn toàn.
Như vậy tất cả các tiến trình đều có thể sử dụng dữ liệu toàn cục, nhưng chúng sẽ có bộ nhớ xử lý khác nhau nên không ảnh hưởng lẫn nhau.
4. Shared memory trong Processing Python
Như phần 3 mình đã trình bày, các processor có không gian lưu trữ và chạy độc lập với nhau. Tuy nhiên, có những lúc ta muốn share dữ liệu giữa chúng thì làm thế nào?
Ta sẽ sử dụng hai phương thức:
Array()
dùng để chia sẻ dữ liệu dạng mảng. Nó sẽ tạo ra một SynchronizedArray chứ không phải array bình thường, vì vậy bạn không thể sử dụng các phương thức nhưappend
, ...Value()
dùng để chia sẻ dữ liệu đơn. Nó sẽ trả về một Synchronized, vì vậy muốn lấy hay gán giá trị thì phải thông qua thuộc tínhvalue
.
import multiprocessing def process1(arrayObj, valueObj): valueObj.value = 1000 arrayObj[0] = 10 arrayObj[1] = 20 arrayObj[2] = 30 arrayObj[3] = 40 print("______________________________") print("Giá trị BÊN TRONG tiến trình") print('Array: ', arrayObj[:]) print('Value: ', valueObj.value) if __name__ == "__main__": # Tạo một mảng kiểu int gồm 4 phần tử arrayObj = multiprocessing.Array('i', 4) # Tạo một giá trị kiểu int valueObj = multiprocessing.Value('i') print("Giá trị TRƯỚC khi gọi tiến trình") print('Array: ', arrayObj[:]) print('Value: ', valueObj.value) # Tạo và chạy tiến trình p1 = multiprocessing.Process(target=process1, args=(arrayObj, valueObj)) p1.start() p1.join() print("______________________________") print("Giá trị SAU khi gọi tiến trình") print('Array: ', arrayObj[:]) print('Value: ', valueObj.value)
Kết quả:
Giá trị TRƯỚC khi gọi tiến trình Array: [0, 0, 0, 0] Value: 0 ______________________________ Giá trị BÊN TRONG tiến trình Array: [10, 20, 30, 40] Value: 1000 ______________________________ Giá trị SAU khi gọi tiến trình Array: [10, 20, 30, 40] Value: 1000
Bên trong tiến trình process1 mình đã thay đổi giá trị cho các đối tượng Array và Value, và nó được lưu lại cho mọi tiến trình chạy sau nó.
Lời kết: Trên là tổng hợp một số kiến thức quan trọng về xử lý đa tiến trình multiprocessing trong Python. Đây là một kiến thức nâng cao khá hay, và mình nghĩ các bạn nên dành chút thời gian để thực hành theo sẽ giúp ích rất nhiều trong việc hiểu về đa tiến trình.