Nền tảng Toán học cho Machine Learning

🎯 Mục tiêu bài học

Sau bài học này, học viên sẽ:

• Nắm vững các khái niệm Đại số tuyến tính cần thiết
• Hiểu các khái niệm Thống kê cơ bản
• Thực hành tính toán với NumPy

1. Đại số tuyến tính (Linear Algebra)

1.1 Vector va Ma trận

Vector la mảng 1 chiều:

$\mathbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix}$

Ma trận la mảng 2 chiều:

$\mathbf{A} = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix}$

1.2 Cac phép toán cơ bản

1.3 Thực hành NumPy

1import numpy as np
2
3# Tạo vector
4x = np.array([1, 2, 3])
5print(f"Vector: {x}")
6print(f"Shape: {x.shape}")
7
8# Tạo ma trận
9A = np.array([[1, 2, 3],
10              [4, 5, 6]])
11print(f"Ma trận:\n{A}")
12print(f"Shape: {A.shape}")
13
14# Cac phép toán
15B = np.array([[7, 8, 9],
16              [10, 11, 12]])
17
18# Cong
19print(f"A + B:\n{A + B}")
20
21# Nhân scalar
22print(f"2 * A:\n{2 * A}")
23
24# Dot product
25a = np.array([1, 2, 3])
26b = np.array([4, 5, 6])
27print(f"a dot b: {np.dot(a, b)}")  # 1*4 + 2*5 + 3*6 = 32
28
29# Nhan ma tran
30C = np.array([[1, 2],
31              [3, 4],
32              [5, 6]])
33print(f"A @ C:\n{A @ C}")  # (2x3) @ (3x2) = (2x2)
34
35# Transpose
36print(f"A transpose:\n{A.T}")

2. Thống kê cơ bản (Statistics)

2.1 Cac do độ đo tập trung

2.2 Cac độ đo phân tán

Variance (Phương sai):

$\sigma^2 = \frac{1}{n}\sum_{i=1}^{n}(x_i - \bar{x})^2$

Standard Deviation (Độ lệch chuẩn):

$\sigma = \sqrt{\sigma^2}$

2.3 Vi du tính toán

Dữ liệu: [2, 4, 4, 4, 5, 5, 7, 9]

Tính Mean: $\bar{x} = \frac{2+4+4+4+5+5+7+9}{8} = \frac{40}{8} = 5$

Tính Variance: $\sigma^2 = \frac{(2-5)^2 + (4-5)^2 + ... + (9-5)^2}{8} = \frac{9+1+1+1+0+0+4+16}{8} = 4$

Tính Standard Deviation: $\sigma = \sqrt{4} = 2$

2.4 Thực hành voi NumPy

1import numpy as np
2
3data = np.array([2, 4, 4, 4, 5, 5, 7, 9])
4
5print(f"Mean: {np.mean(data)}")
6print(f"Median: {np.median(data)}")
7print(f"Variance: {np.var(data)}")
8print(f"Std: {np.std(data)}")
9print(f"Min: {np.min(data)}")
10print(f"Max: {np.max(data)}")
11print(f"Percentile 25: {np.percentile(data, 25)}")
12print(f"Percentile 75: {np.percentile(data, 75)}")

3. Covariance va Correlation

3.1 Covariance (Hiệp phương sai)

$Cov(X, Y) = \frac{1}{n}\sum_{i=1}^{n}(x_i - \bar{x})(y_i - \bar{y})$

• $Cov > 0$: Tương quan thuận
• $Cov < 0$: Tương quan nghịch
• $Cov = 0$: Khong tuong quan tuyến tính

3.2 Correlation (Hệ số tương quan Pearson)

$r = \frac{Cov(X, Y)}{\sigma_X \sigma_Y}$

3.3 Thực hành

1import numpy as np
2
3X = np.array([1, 2, 3, 4, 5])
4Y = np.array([2, 4, 5, 4, 5])
5
6# Covariance
7cov_matrix = np.cov(X, Y)
8print(f"Covariance Matrix:\n{cov_matrix}")
9
10# Correlation
11corr_matrix = np.corrcoef(X, Y)
12print(f"Correlation Matrix:\n{corr_matrix}")
13print(f"Correlation coefficient: {corr_matrix[0, 1]:.4f}")

4. Probability Distributions

4.1 Normal Distribution (Phân phối chuẩn)

$f(x) = \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}$

Trong đó:

• $\mu$: Mean (trung bình)
• $\sigma$: Standard deviation (do lech chuan)

Hinh: Normal Distribution voi cac gia tri sigma khac nhau

4.2 Thực hành

1import numpy as np
2import matplotlib.pyplot as plt
3from scipy import stats
4
5# Tao data tu normal distribution
6mu, sigma = 0, 1
7data = np.random.normal(mu, sigma, 1000)
8
9# Visualize
10plt.figure(figsize=(10, 4))
11plt.hist(data, bins=30, density=True, alpha=0.7)
12x = np.linspace(-4, 4, 100)
13plt.plot(x, stats.norm.pdf(x, mu, sigma), 'r-', lw=2)
14plt.title('Normal Distribution')
15plt.xlabel('Value')
16plt.ylabel('Density')
17plt.show()

5. Feature Scaling

5.1 Tại sao cần Scaling?

5.2 Cac phương pháp Scaling

Standardization (Z-score):

$z = \frac{x - \mu}{\sigma}$

Min-Max Normalization:

$x_{norm} = \frac{x - x_{min}}{x_{max} - x_{min}}$

5.3 Thực hành

1from sklearn.preprocessing import StandardScaler, MinMaxScaler
2import numpy as np
3
4# Data
5X = np.array([[1, 200],
6              [2, 400],
7              [3, 600],
8              [4, 800]])
9
10# StandardScaler
11scaler_std = StandardScaler()
12X_std = scaler_std.fit_transform(X)
13print(f"Standardized:\n{X_std}")
14print(f"Mean: {X_std.mean(axis=0)}")
15print(f"Std: {X_std.std(axis=0)}")
16
17# MinMaxScaler
18scaler_mm = MinMaxScaler()
19X_mm = scaler_mm.fit_transform(X)
20print(f"Min-Max Normalized:\n{X_mm}")
21print(f"Min: {X_mm.min(axis=0)}")
22print(f"Max: {X_mm.max(axis=0)}")

Ưu và nhược điểm cac phương pháp Scaling

Bài tập tự luyện

1. Bài tập 1: Tinh mean, variance, std cua data: [10, 20, 30, 40, 50]
2. Bài tập 2: Tinh correlation giua X = [1,2,3,4,5] va Y = [5,4,3,2,1]
3. Bài tập 3: Áp dụng StandardScaler va MinMaxScaler cho một dataset

Tài liệu tham khảo

• NumPy Documentation
• Khan Academy - Statistics
• 3Blue1Brown - Linear Algebra