Tất cả mục từ

Vector và không gian vector

AI biến mọi thứ — từ, ảnh, âm thanh — thành một dãy số

Gradient và hạ gradient

Toàn bộ học sâu quy về một việc: bước một bước nhỏ xuống dốc

Phép toán ma trận và biến đổi tuyến tính

Nhân ma trận không phải một loạt phép nhân rồi cộng, mà là viết lại toàn bộ không gian trong một lần

Xác suất và phân phối xác suất

Mô hình không đưa ra ‘đáp án’, mà cho biết mức độ tin cậy cho từng khả năng

Định lý Bayes

Tin một chút, thấy bằng chứng, chỉnh một chút — đó là Bayes

Entropy và lý thuyết thông tin

Câu càng bất ngờ càng mang nhiều thông tin; hàm mất mát của mô hình ngôn ngữ đo chính cái ‘bất ngờ’ đó

Học có giám sát

Từng cặp câu hỏi – đáp án dạy mô hình tự trả lời

Học không giám sát

Khi không có đáp án, cấu trúc phải tự nổi lên từ dữ liệu — và tiêu chuẩn “tốt” cũng phải định nghĩa lại

Hàm mất mát

Hàm mất mát định nghĩa bạn thực sự phạt điều gì — đổi nó là đổi cả quan niệm đúng sai

Quá khớp và điều chuẩn

Mô hình học thuộc lòng dữ liệu huấn luyện rồi thất bại trước dữ liệu mới

Đánh giá mô hình và kiểm định chéo

Độ chính xác là chỉ số dễ đánh lừa nhất — đánh giá sai thì mọi thứ sau đó đều vô nghĩa

Đánh đổi độ lệch – phương sai

Mọi sai số dự đoán tách thành ba phần: mô hình quá đơn giản, mô hình quá dao động, và tính ngẫu nhiên của chính thế giới

Nơ-ron và perceptron

Mảnh ghép nhỏ nhất của mạng nơ-ron: một tổng có trọng số, một độ lệch và một lần bẻ cong phi tuyến

Lan truyền ngược

Biến “tính gradient” từ cực hình toán học thành một lần gọi hàm — khoảnh khắc học sâu thực sự cất cánh

Hàm kích hoạt

Không có nó, mạng dù sâu đến đâu cũng chỉ là một phép biến đổi tuyến tính

Mạng nơ-ron tích chập

Thay kết nối đầy đủ bằng “nhìn cục bộ, dùng lại cùng một thước ở mọi nơi” — ý tưởng đưa nhận dạng ảnh thành khả thi

Mạng nơ-ron hồi tiếp

Cho mạng một “bộ nhớ”: một đơn vị được dùng lại theo thời gian để xử lý chuỗi dài tùy ý

Chuẩn hóa và kết nối dư

Làm mạng trăm tầng thực sự huấn luyện được: một lối tắt đồng nhất và một lần hiệu chỉnh lại ở mỗi tầng

Token hóa

Mô hình không đọc ký tự mà đọc token; cách tách từ âm thầm quyết định năng lực và chi phí

Nhúng từ (Word Embeddings)

Biến từ thành tọa độ: từ đồng nghĩa tự tụ lại và ý nghĩa lần đầu có thể cộng trừ

Cơ chế chú ý (Attention)

Mọi vị trí đều có thể nhìn thẳng vào mọi vị trí khác và phân bổ chú ý theo mức liên quan

Kiến trúc Transformer

Thay cách truyền từng từ bằng một phòng họp nơi mọi từ cùng lên tiếng, để phụ thuộc xa chỉ còn cách một bước

Tiền huấn luyện và tinh chỉnh

Học ngôn ngữ trước từ lượng lớn văn bản không nhãn, rồi chuyên biệt hóa với ít dữ liệu — mô hình tiết kiệm dữ liệu nhất của AI hiện đại

Kỹ thuật prompt và căn chỉnh

Làm cho mô hình hữu ích, trung thực và vô hại khó hơn việc chỉ phóng to nó

Biểu diễn số của ảnh

Với máy móc, một bức ảnh chỉ là các lưới số xếp chồng

Phép tích chập

Một khuôn nhỏ quét khắp ảnh để tìm cạnh, vân và hình dạng

Phân loại ảnh

Đừng nói “mèo có râu” — cho nó xem đủ nhiều mèo, nó tự rút ra

Phát hiện đối tượng

Từ “trong ảnh có gì” đến “cái gì, ở đâu và bao nhiêu”

Phân đoạn ngữ nghĩa

Tô màu từng điểm ảnh: không phải khung bao, mà là sách tô màu

Thị giác tự giám sát và học tương phản đa phương thức

Không cần nhãn: học cách nhìn bằng việc nhận ra ảnh nào giống nhau

Quá trình quyết định Markov

Viết «quyết định từng bước» bằng năm ký hiệu — mọi thứ trong học tăng cường bắt đầu từ đây

Hàm giá trị và Q-learning

Thay vì đoán nên làm gì, hãy ước lượng mỗi lựa chọn đáng giá bao nhiêu

Gradient chính sách

Điều chỉnh trực tiếp chính sách để hành động tốt xuất hiện thường xuyên hơn

Khám phá và khai thác

Lựa chọn tốt nhất hiện tại chưa chắc là tốt nhất về lâu dài

Học tăng cường sâu

Để mạng nơ-ron quyết định thẳng từ điểm ảnh — rồi giữ ổn định bằng những mẹo cũ

Học tăng cường từ phản hồi của con người

Khi «câu trả lời tốt» không viết được thành công thức, hãy để con người đóng vai hàm thưởng

Tổng quan về mô hình sinh

Mô hình phân biệt trả lời "đây là gì"; mô hình sinh trả lời "nó nên trông như thế nào"

Autoencoder và VAE

Nén thông tin qua một nút thắt rồi để nó mọc lại

Mạng đối kháng tạo sinh

Kẻ làm giả đối đầu chuyên gia: mỗi bên đẩy bên kia tới giới hạn

Mô hình khuếch tán

Học ngàn bước khử nhiễu nhỏ, bạn tạo được ảnh từ nhiễu thuần

Khuếch tán trong không gian ẩn và điều khiển có điều kiện

Khuếch tán không trên điểm ảnh, mà trong một không gian ngữ nghĩa đã nén

Sinh đa phương thức

Một mô hình học nói, vẽ, chuyển động — thậm chí mô hình hóa thế giới ba chiều

Hạ tầng huấn luyện và suy luận

Bộ nhớ quyết định mô hình lớn đến đâu, còn truyền thông quyết định mất bao lâu

Nén mô hình

Làm mô hình nhỏ hơn, nhanh hơn, rẻ hơn mà gần như không mất độ chính xác — nhưng thường chỉ được hai trong ba

Tối ưu suy luận và phục vụ

Huấn luyện chỉ một lần, suy luận diễn ra hàng tỷ lần mỗi ngày — và token đầu tiên lẫn thông lượng thường kéo ngược nhau

Sinh văn bản tăng cường truy xuất

Thay vì nhồi kiến thức vào tham số, hãy để nó ở ngoài và tra khi cần — như thi mở sách

Tác tử và sử dụng công cụ

Để mô hình không chỉ trả lời, mà còn tra cứu, gọi API, chạy mã — và quyết định bước tiếp theo từ kết quả nhận được

An toàn, căn chỉnh và chèn lệnh (prompt injection)

Mô hình tối ưu chỉ số đại diện ghi trong hàm mất mát, không phải điều ta thực sự muốn — khoảng cách đó chính là toàn bộ vấn đề căn chỉnh