Thông báo: Download 4 khóa học Python từ cơ bản đến nâng cao tại đây.

Bắt đầu tìm hiểu Perceptron bằng Python

Trong bài viết này, mình sẽ triển khai thuật toán Perceptron một tầng (single-layer) chỉ sử dụng các module tích hợp của Python và thư viện numpy. Đồng thời, mình sẽ cùng tìm hiểu khái niệm và toán học phía sau thuật toán này.

test php

Bài viết này được đăng tại freetuts.net, không được copy dưới mọi hình thức.

t E1 BA A3i 20xu E1 BB 91ng png

Perceptron là gì?

Perceptron là một mô hình học máy tuyến tính dùng để phân loại dữ liệu nhị phân. Nó được đề xuất bởi Frank Rosenblatt vào năm 1958. Đây là một trong những thuật toán nền tảng đặt nền móng cho các mô hình học máy hiện đại.

Cấu trúc của Perceptron:

Input Layer: Các đầu vào $x_1, x_2, ..., x_n$ kèm trọng số $w_1, w_2, ..., w_n$ .

Linear Combination: Tính $z = w_1 \cdot x_1 + w_2 \cdot x_2 + ... + w_n \cdot x_n + b$ (bias).

Bài viết này được đăng tại [free tuts .net]

Activation Function: Áp dụng hàm kích hoạt để quyết định đầu ra. Trong Perceptron đơn giản, hàm kích hoạt là hàm bước: $\text{activation}(z) = \begin{cases} 1 & \text{nếu } z \geq 0 \\ 0 & \text{nếu } z < 0 \end{cases}$

Công thức toán học

Học thông qua cập nhật trọng số (Perceptron Update Rule):

$w_i \leftarrow w_i + \eta \cdot (y - \hat{y}) \cdot x_i$ $b \leftarrow b + \eta \cdot (y - \hat{y})$

Trong đó:

$w_i$ : Trọng số hiện tại.
$b$ : Giá trị bias.
$y$ : Nhãn thực tế (target).
$\hat{y}$ : Dự đoán từ mô hình.
$\eta$ : Tốc độ học (learning rate).

Dự đoán:

$\hat{y} = \text{activation}(z)$

Với $z = \sum_{i=1}^n w_i \cdot x_i + b$ .

Triển khai Perceptron trong Python

Định nghĩa lớp Perceptron

import numpy as np

class Perceptron:

    def __init__(self, learning_rate=0.01, n_iters=1000):
        """
        Khởi tạo Perceptron.
        Args:
            learning_rate (float): Tốc độ học (η).
            n_iters (int): Số lần lặp để huấn luyện.
        """
        self.lr = learning_rate
        self.n_iters = n_iters
        self.activation_func = self._unit_step_func  # Hàm kích hoạt
        self.weights = None
        self.bias = None

Huấn luyện mô hình

Trong hàm fit, chúng ta:

Khởi tạo trọng số và bias bằng 0.
Thực hiện cập nhật trọng số với Quy tắc Cập nhật Perceptron.

    def fit(self, X, y):
        """
        Huấn luyện Perceptron dựa trên dữ liệu X và y.
        Args:
            X (ndarray): Dữ liệu đầu vào (n_samples, n_features).
            y (ndarray): Nhãn thực tế (n_samples).
        """
        n_samples, n_features = X.shape
        self.weights = np.zeros(n_features)  # Khởi tạo trọng số bằng 0
        self.bias = 0

        # Đảm bảo y chỉ gồm giá trị {0, 1}
        y_ = np.array([1 if i > 0 else 0 for i in y])

        for _ in range(self.n_iters:  # Lặp qua số lần huấn luyện
            for idx, x_i in enumerate(X):
                linear_output = np.dot(x_i, self.weights) + self.bias  # z = w·x + b
                y_predicted = self.activation_func(linear_output)  # Hàm kích hoạt

                # Cập nhật trọng số theo quy tắc cập nhật Perceptron
                update = self.lr * (y_[idx] - y_predicted)
                self.weights += update * x_i
                self.bias += update

Dự đoán

Hàm predict nhận đầu vào và trả về các nhãn dự đoán.

    def predict(self, X):
        """
        Dự đoán nhãn cho tập dữ liệu X.
        Args:
            X (ndarray): Dữ liệu đầu vào (n_samples, n_features).
        Returns:
            ndarray: Nhãn dự đoán (n_samples).
        """
        linear_output = np.dot(X, self.weights) + self.bias
        y_predicted = self.activation_func(linear_output)
        return y_predicted

Hàm kích hoạt

Hàm bước (Unit Step Function):

    def _unit_step_func(self, x):
        """
        Hàm kích hoạt. Trả về 1 nếu x >= 0, ngược lại trả về 0.
        """
        return np.where(x >= 0, 1, 0)

Cách sử dụng Perceptron trong Python

Dữ liệu giả lập để kiểm tra Perceptron:

from sklearn.model_selection import train_test_split
from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt

# Tạo dữ liệu giả lập
X, y = make_blobs(n_samples=150, n_features=2, centers=2, cluster_std=1.05, random_state=2)

# Tách tập train/test
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# Huấn luyện mô hình
perceptron = Perceptron(learning_rate=0.01, n_iters=1000)
perceptron.fit(X_train, y_train)

# Dự đoán trên tập kiểm thử
y_pred = perceptron.predict(X_test)

# Vẽ biểu đồ phân loại
plt.scatter(X_test[:, 0], X_test[:, 1], c=y_test, cmap='viridis')
plt.title("Biểu đồ dữ liệu và phân loại Perceptron")
plt.show()

Kết bài

Perceptron là một thuật toán học đơn giản và hiệu quả, giúp xây dựng nền tảng hiểu biết về mạng nơ-ron.
Tuy nhiên, nó chỉ phù hợp với dữ liệu tuyến tính và không xử lý tốt dữ liệu phức tạp hơn.
Bạn nên áp dụng thuật toán này như một bước đầu tiên trong việc học về mạng nơ-ron hoặc mô hình học sâu.

Bài trước Bài tiếp

Bắt đầu tìm hiểu Perceptron bằng Python

Perceptron là gì?

Cấu trúc của Perceptron:

Công thức toán học

Triển khai Perceptron trong Python

Định nghĩa lớp Perceptron

Huấn luyện mô hình

Dự đoán

Hàm kích hoạt

Cách sử dụng Perceptron trong Python

Kết bài

Cùng chuyên mục:

Hướng dẫn cài đặt PyTorch với Deep Learning

LDA (Linear Discriminant Analysis) trong Python

Thuật toán AdaBoost trong Python

Thuật toán K-Means Clustering trong Python

Triển khai PCA bằng Python

Triển khai thuật toán Random Forest bằng Python

Triển khai Decision Tree bằng Python

SVM (Support Vector Machine) bằng Python

Thuật toán Naive Bayes trong Python

Hồi quy tuyến tính và hồi quy Logistic trong Python

Hồi Quy Logistic (Logistic Regression) trong Python

Hồi quy tuyến tính (Linear Regression) trong Python

KNN (K Nearest Neighbors) trong Python

Hướng dẫn sử dụng Anaconda bằng Python

Hướng dẫn Web Scraping tự động tải hình ảnh với Python

Tạo danh sách phim ngẫu nhiên với Python

List Comprehension trong Python

Cách thêm Progress Bar trong Python với chỉ một dòng Code

Toán tử Walrus Operator- Tính năng mới trong Python 3.8

Cách nạp dữ liệu Machine Learning từ File trong Python

Bắt đầu tìm hiểu Perceptron bằng Python

Perceptron là gì?

Cấu trúc của Perceptron:

Công thức toán học

Triển khai Perceptron trong Python

Định nghĩa lớp Perceptron

Huấn luyện mô hình

Dự đoán

Hàm kích hoạt

Cách sử dụng Perceptron trong Python

Kết bài

Cùng chuyên mục:

Hướng dẫn cài đặt PyTorch với Deep Learning

LDA (Linear Discriminant Analysis) trong Python

Thuật toán AdaBoost trong Python

Thuật toán K-Means Clustering trong Python

Triển khai PCA bằng Python

Triển khai thuật toán Random Forest bằng Python

Triển khai Decision Tree bằng Python

SVM (Support Vector Machine) bằng Python

Thuật toán Naive Bayes trong Python

Hồi quy tuyến tính và hồi quy Logistic trong Python

Hồi Quy Logistic (Logistic Regression) trong Python

Hồi quy tuyến tính (Linear Regression) trong Python

KNN (K Nearest Neighbors) trong Python

Hướng dẫn sử dụng Anaconda bằng Python

Hướng dẫn Web Scraping tự động tải hình ảnh với Python

Tạo danh sách phim ngẫu nhiên với Python

List Comprehension trong Python

Cách thêm Progress Bar trong Python với chỉ một dòng Code

Toán tử Walrus Operator- Tính năng mới trong Python 3.8

Cách nạp dữ liệu Machine Learning từ File trong Python

Giới thiệu

Thủ thuật

Link hay

Liên kết