Xác suất & Bayes' Theorem

1.1 Thuật ngữ

1.2 Ví dụ Sample Space

2.1 Classical Probability

$P(A) = \frac{\text{Số outcomes thuận lợi}}{\text{Tổng số outcomes}} = \frac{n(A)}{n(S)}$

Điều kiện: Các outcomes có khả năng xảy ra như nhau (equally likely).

2.2 Ví dụ

Tung 1 xúc xắc cân đối:

• P(số 3) = $\frac{1}{6}$
• P(số chẵn) = $\frac{3}{6} = \frac{1}{2}$
• P(số > 4) = $\frac{2}{6} = \frac{1}{3}$

Rút 1 lá từ bộ 52 lá:

• P(Át) = $\frac{4}{52} = \frac{1}{13}$
• P(Cơ) = $\frac{13}{52} = \frac{1}{4}$
• P(Át Cơ) = $\frac{1}{52}$

2.3 Tính chất cơ bản

3.1 Biến cố xung khắc (Mutually Exclusive)

$P(A \cup B) = P(A) + P(B)$

Ví dụ: Tung xúc xắc — A = 2, B = 6

• P(A ∪ B) = $\frac{2}{6} + \frac{2}{6} = \frac{4}{6}$

3.2 Biến cố không xung khắc

$P(A \cup B) = P(A) + P(B) - P(A \cap B)$

Ví dụ: Rút 1 lá bài — A = Cơ (13 lá), B = Hình (12 lá), A ∩ B = Hình Cơ (3 lá)

$P(A \cup B) = \frac{13}{52} + \frac{12}{52} - \frac{3}{52} = \frac{22}{52}$

3.3 Code Python

1# Tung xúc xắc
2S = {1, 2, 3, 4, 5, 6}
3A = {1, 2}  # số ≤ 2
4B = {5, 6}  # số ≥ 5
5C = {2, 4, 6}  # số chẵn
6
7# Mutually exclusive
8P_A_or_B = len(A) / len(S) + len(B) / len(S)
9print(f"P(A ∪ B) mutually exclusive: {P_A_or_B:.4f}")
10
11# Not mutually exclusive
12A_and_C = A & C
13P_A_or_C = len(A)/len(S) + len(C)/len(S) - len(A_and_C)/len(S)
14print(f"P(A ∪ C) not mutually exclusive: {P_A_or_C:.4f}")

4.1 Biến cố độc lập

$P(A \cap B) = P(A) \times P(B)$

Ví dụ: Tung đồng xu 2 lần — P(HH) = $\frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$

4.2 Biến cố phụ thuộc

$P(A \cap B) = P(A) \times P(B|A)$

Ví dụ: Rút 2 lá bài KHÔNG hoàn lại — P(2 Át) = $\frac{4}{52} \times \frac{3}{51}$

4.3 Xác suất bù (Complement)

$P(A') = 1 - P(A)$

Bài toán "ít nhất một": $P(\text{ít nhất 1}) = 1 - P(\text{không có cái nào})$

Ví dụ: P(ít nhất 1 Head trong 3 lần tung) = $1 - P(TTT) = 1 - \frac{1}{8} = \frac{7}{8}$

1# P(ít nhất 1 Head trong n lần tung)
2def prob_at_least_one_head(n):
3    P_no_head = (1/2) ** n
4    return 1 - P_no_head
5
6for n in [1, 2, 3, 5, 10]:
7    print(f"n={n}: P(≥1 Head) = {prob_at_least_one_head(n):.4f}")

5.1 Permutation (Hoán vị) — có thứ tự

$P(n, r) = \frac{n!}{(n-r)!}$

5.2 Combination (Tổ hợp) — không thứ tự

$C(n, r) = \binom{n}{r} = \frac{n!}{r!(n-r)!}$

1from math import factorial, comb, perm
2
3n, r = 5, 3
4print(f"P({n},{r}) = {perm(n, r)}")   # 60
5print(f"C({n},{r}) = {comb(n, r)}")    # 10
6
7# Xổ số: chọn 6 từ 45
8lottery = comb(45, 6)
9print(f"Xác suất trúng xổ số: 1/{lottery:,}")

6.1 Định nghĩa

P(A|B) = Xác suất xảy ra A, biết rằng B đã xảy ra.

$P(A|B) = \frac{P(A \cap B)}{P(B)}$

6.2 Ví dụ

Tung xúc xắc: B = "Số chẵn" = 6, A = "Số > 3" = 6

$P(A|B) = \frac{|\{4, 6\}|/6}{3/6} = \frac{2}{3}$

Khi biết B xảy ra, sample space thu hẹp thành B.

6.3 Chain Rule

$P(A \cap B \cap C) = P(A) \times P(B|A) \times P(C|A \cap B)$

Ví dụ: Rút 3 lá Át liên tiếp (không hoàn lại): $P = \frac{4}{52} \times \frac{3}{51} \times \frac{2}{50} \approx 0.00018$

6.4 Kiểm tra tính độc lập

A và B độc lập khi: $P(A|B) = P(A)$, tương đương $P(A \cap B) = P(A) \times P(B)$

1def check_independence(P_A, P_B, P_A_and_B):
2    expected = P_A * P_B
3    is_independent = abs(P_A_and_B - expected) < 0.0001
4    print(f"P(A)×P(B) = {expected:.4f}, P(A∩B) = {P_A_and_B:.4f}")
5    print(f"Independent: {is_independent}")
6
7check_independence(0.5, 0.3, 0.15)  # Độc lập
8check_independence(0.5, 0.3, 0.20)  # Không độc lập

7.1 Công thức

Nếu $B_1, B_2, ..., B_n$ là phân hoạch của S:

$P(A) = \sum_{i=1}^{n} P(A|B_i) \times P(B_i)$

7.2 Ví dụ: Nhà máy sản xuất

• Máy 1: 60% sản phẩm, tỷ lệ lỗi 3%
• Máy 2: 40% sản phẩm, tỷ lệ lỗi 5%

$P(D) = 0.03 \times 0.60 + 0.05 \times 0.40 = 0.038$

1P_D = 0.03 * 0.60 + 0.05 * 0.40
2print(f"P(Defective) = {P_D:.4f}")  # 0.038

8.1 Công thức

$P(B|A) = \frac{P(A|B) \times P(B)}{P(A)}$

Dạng đầy đủ:

$P(B_i|A) = \frac{P(A|B_i) \times P(B_i)}{\sum_{j} P(A|B_j) \times P(B_j)}$

8.2 Thuật ngữ

8.3 Ví dụ: Chẩn đoán bệnh

• P(Bệnh) = 0.01, P(+|Bệnh) = 0.99, P(+|Không bệnh) = 0.05

$P(+) = 0.99 \times 0.01 + 0.05 \times 0.99 = 0.0594$

$P(B|+) = \frac{0.99 \times 0.01}{0.0594} \approx 0.167$

8.4 Code Python

1def bayes_theorem(P_B, P_A_given_B, P_A_given_not_B):
2    P_not_B = 1 - P_B
3    P_A = P_A_given_B * P_B + P_A_given_not_B * P_not_B
4    P_B_given_A = (P_A_given_B * P_B) / P_A
5    return P_B_given_A, P_A
6
7# Chẩn đoán bệnh
8P_disease_given_positive, P_positive = bayes_theorem(0.01, 0.99, 0.05)
9print(f"P(Dương tính) = {P_positive:.4f}")
10print(f"P(Bệnh | Dương tính) = {P_disease_given_positive:.4f}")

9.1 Spam Filter (Naive Bayes)

1def spam_filter(word, P_spam=0.3, P_word_given_spam=0.8, P_word_given_ham=0.1):
2    P_ham = 1 - P_spam
3    P_word = P_word_given_spam * P_spam + P_word_given_ham * P_ham
4    return (P_word_given_spam * P_spam) / P_word
5
6P_spam = spam_filter("FREE")
7print(f"P(Spam | 'FREE') = {P_spam:.4f}")  # ~0.77

9.2 Bài toán sinh nhật

1def birthday_problem(n):
2    P_no_match = 1
3    for i in range(n):
4        P_no_match *= (365 - i) / 365
5    return 1 - P_no_match
6
7for n in [10, 23, 30, 50, 70]:
8    print(f"n={n}: P = {birthday_problem(n):.4f}")
9# n=23: P ≈ 50%, n=50: P ≈ 97%

Bài tập 1: Xúc xắc

Tung 2 xúc xắc: P(tổng = 7)? P(tổng ≥ 10)? P(cả hai giống nhau)?

Bài tập 2: Conditional Probability

Trong lớp 100 sinh viên: 60 nam, 40 nữ. 15 nam và 10 nữ đạt loại giỏi.

1. P(Giỏi | Nam)?
2. P(Nam | Giỏi)?
3. Nam và Giỏi có độc lập không?

Bài tập 3: Bayes

Công ty có 3 nhà máy: A (50%, 2% lỗi), B (30%, 3% lỗi), C (20%, 4% lỗi).

1. P(Lỗi)?
2. P(từ nhà máy A | Lỗi)?

Câu hỏi tự kiểm tra

1. Sự khác nhau giữa xác suất có điều kiện P(A|B) và xác suất đồng thời P(A∩B) là gì?
2. Định lý Bayes giúp giải quyết loại bài toán nào trong thực tế?
3. Tại sao Base Rate (prior probability) quan trọng và không nên bỏ qua?
4. Khi nào nên dùng quy tắc Complement P(A') = 1 - P(A) thay vì tính trực tiếp?