Chuyển đến nội dung
Bản đồ AI

Kỹ thuật, an toàn và đạo đức AI

Biến một mô hình chạy được thành sản phẩm dùng được, đáng tin và có trách nhiệm

OVERVIEW

Tất cả mục từ
6
Cơ bản
2
Trung cấp
3
Chuyên gia
1

Getting a model to work in a notebook is roughly a third of the job. The rest is engineering and governance: compressing it to a deployable cost, evaluating it rather than trusting a feeling, defending against injection and misuse, and being able to explain and attribute failure when it happens. This domain is the gate every model must pass to become a product.

Những câu hỏi lĩnh vực này trả lời

  • Q1

    How are large models compressed onto consumer hardware?

  • Q2

    How do you evaluate when there is no answer key?

  • Q3

    Why is prompt injection so hard to eliminate?

Mục từ trong lĩnh vực này

  1. 01Hạ tầng huấn luyện và suy luậnChuyên giaBộ nhớ quyết định mô hình lớn đến đâu, còn truyền thông quyết định mất bao lâu
  2. 02Nén mô hìnhTrung cấpLàm mô hình nhỏ hơn, nhanh hơn, rẻ hơn mà gần như không mất độ chính xác — nhưng thường chỉ được hai trong ba
  3. 03Tối ưu suy luận và phục vụTrung cấpHuấn luyện chỉ một lần, suy luận diễn ra hàng tỷ lần mỗi ngày — và token đầu tiên lẫn thông lượng thường kéo ngược nhau
  4. 04Sinh văn bản tăng cường truy xuấtCơ bảnThay vì nhồi kiến thức vào tham số, hãy để nó ở ngoài và tra khi cần — như thi mở sách
  5. 05Tác tử và sử dụng công cụTrung cấpĐể mô hình không chỉ trả lời, mà còn tra cứu, gọi API, chạy mã — và quyết định bước tiếp theo từ kết quả nhận được
  6. 06An toàn, căn chỉnh và chèn lệnh (prompt injection)Cơ bảnMô hình tối ưu chỉ số đại diện ghi trong hàm mất mát, không phải điều ta thực sự muốn — khoảng cách đó chính là toàn bộ vấn đề căn chỉnh