Nhúng văn bản và tìm kiếm ngữ nghĩa
Biến câu thành vector và lấy những cái gần nghĩa nhất
Toàn văn của trang này được trình bày bằng tiếng Anh; tiêu đề và phần dẫn đã được bản địa hóa.
NĂNG LỰC NÀY NGHĨA LÀ GÌ
Encodes a piece of text into a fixed-length vector so that semantically similar texts sit close together, then retrieves related items by nearest-neighbour lookup. Output is a ranked result list (item ids and scores), not prose. Unlike question answering it only finds possibly relevant material; it does not compose the answer.
Làm ra sao về mặt kỹ thuật
The mainstream design is a two-tower model: queries and documents are compressed by encoders, and training pushes true pairs above random negatives, typically with contrastive learning and large batches. At query time all document vectors are pre-computed into an index and an approximate nearest-neighbour search returns the top-k in milliseconds. Sparse and dense representations are often mixed to combine keyword hits with semantic recall.
Sản phẩm tiêu biểu
6Pinecone
2019Cơ sở dữ liệu vector được quản lý cho tìm kiếm tương đồng
Hugging Face Hub
2016Nơi quy tụ mô hình và dữ liệu mở
Transformers
2018Một API để nạp và huấn luyện mô hình tiền huấn luyện
Together API
2022API suy luận cho các mô hình mở
Replicate
2019Chạy mô hình do cộng đồng đăng qua API
Perplexity
2022Trả lời trong lúc tìm kiếm, mỗi câu đều kèm nguồn
Tổ chức liên quan
Cách dùng tiêu biểu
- Search over enterprise documents and code
- The recall stage of RAG pipelines
- Deduplication, clustering and topic discovery
- Recommendation and similar-content entry points
Đánh giá nó tốt hay không thế nào
- Recall@k
- Whether the top-k contain all relevant documents
- nDCG
- Discounted cumulative gain that accounts for rank position
- MRR
- Mean reciprocal rank of the first relevant result
Ranh giới và điểm khó
- Semantic similarity is not relevance: near neighbours may merely share wording
- Cross-domain or cross-lingual use degrades noticeably without adaptation
- Chunking long documents severs context, and answers at chunk boundaries are easily missed
Các khái niệm đằng sau
Nhúng từ (Word Embeddings)
Biến từ thành tọa độ: từ đồng nghĩa tự tụ lại và ý nghĩa lần đầu có thể cộng trừ
Vector và không gian vector
AI biến mọi thứ — từ, ảnh, âm thanh — thành một dãy số
Sinh văn bản tăng cường truy xuất
Thay vì nhồi kiến thức vào tham số, hãy để nó ở ngoài và tra khi cần — như thi mở sách