Tìm hiểu các thuật ngữ phổ biến về AI và nhà cung cấp AI trước tiên
Khi bạn gặp Key, Base URL, tên mô hình, hệ số nhân và mã lỗi, hãy xem tại đây để hiểu rõ các thuật ngữ trước khi tiến hành tích hợp và xử lý sự cố.
Thuật ngữ AI cơ bản
| Thuật ngữ | Giải thích dễ hiểu | Người mới bắt đầu cần chú ý điều gì? |
|---|---|---|
| Mô hình (Model) | Khả năng AI thực sự chịu trách nhiệm trả lời câu hỏi, viết mã và tạo hình ảnh hoặc video. | Tên mô hình phải được sao chép chính xác từ trang quản trị của nhà cung cấp; không tự ý thay đổi chữ hoa, chữ thường, dấu gạch nối hoặc số phiên bản. |
| Mô hình lớn (Large Model) | Thuật ngữ chung chỉ các mô hình có thể xử lý các tác vụ như ngôn ngữ tự nhiên, mã nguồn, hình ảnh, v.v. | Đắt hơn không nhất thiết là phù hợp hơn với bạn; các mô hình khác nhau có thể phù hợp cho viết lách, lập trình, hình ảnh hoặc video. |
| Đa phương thức (Multimodal) | Cùng một mô hình có thể xử lý các đầu vào khác nhau như văn bản, hình ảnh, âm thanh hoặc video. | Công cụ hỗ trợ đa phương thức không có nghĩa là nhà cung cấp và mô hình hiện tại của bạn cũng hỗ trợ tính năng này. |
| Prompt / Chỉ dẫn | Yêu cầu bạn gửi đến AI, ví dụ: "Hãy giúp tôi tóm tắt nội dung này." | Prompt càng cụ thể thì càng dễ nhận được kết quả hữu ích. |
| System Prompt | Các quy tắc có mức độ ưu tiên cao hơn câu hỏi thông thường, thường được dùng để ràng buộc vai trò, phong cách và ranh giới an toàn. | System prompt trong các công cụ lập trình sẽ ảnh hưởng đến cách công cụ đọc tệp và sửa mã nguồn. |
| Cửa sổ ngữ cảnh (Context Window) | Lượng nội dung mà mô hình có thể ghi nhớ và xử lý trong một lần. | Ngữ cảnh lớn hơn không nhất thiết là thông minh hơn, nhưng sẽ phù hợp hơn để xử lý tài liệu dài, dự án lớn và các cuộc trò chuyện nhiều lượt liên tục. |
| Tự động nén / Tự động tóm tắt | Khi cuộc trò chuyện hoặc nội dung tệp sắp vượt quá giới hạn ngữ cảnh, một số công cụ sẽ tóm tắt nội dung trước đó thành một bản tóm tắt ngắn hơn rồi tiếp tục gửi đến mô hình. | Tự động nén cho phép cuộc trò chuyện tiếp tục, nhưng bản tóm tắt có thể bỏ sót chi tiết; khi khắc phục sự cố, sửa mã hoặc kiểm tra cấu hình, đừng mặc định rằng mô hình vẫn nhớ toàn bộ văn bản gốc. |
| Token | Đơn vị cơ bản để tính phí và tính độ dài của mô hình, có thể hiểu nôm na là các mảnh nhỏ được chia ra từ văn bản. | Cả đầu vào và đầu ra đều tiêu tốn token; tài liệu dài và cuộc trò chuyện dài sẽ làm tăng chi phí đáng kể. |
| Temperature | Tham số kiểm soát tính ngẫu nhiên của câu trả lời. | Nếu bạn muốn câu trả lời ổn định và có thể tái lập, hãy giảm giá trị này; nếu bạn muốn sáng tạo đa dạng, bạn có thể tăng lên một cách phù hợp. |
Liên quan đến nhà cung cấp AI
| Thuật ngữ | Giải thích dễ hiểu | Người mới bắt đầu cần chú ý điều gì? |
|---|---|---|
| Nhà cung cấp AI | Chuyển tiếp yêu cầu từ công cụ của bạn đến một hoặc nhiều nền tảng dịch vụ mô hình. | Đây không phải là bản thân mô hình; điểm cốt lõi là dịch vụ hỗ trợ những mô hình nào, độ ổn định, mức giá và hồ sơ rủi ro của dịch vụ đó. |
| Nhà cung cấp (Provider) | Nền tảng cung cấp giao diện AI, mô hình, thanh toán và quản lý backend; có thể là hãng chính thức hoặc nhà cung cấp AI. | Địa chỉ API, key, tên mô hình và phương thức thanh toán của các nhà cung cấp khác nhau có thể hoàn toàn khác nhau. |
| Kênh chính thức | Dịch vụ do chính các hãng phát triển mô hình cung cấp, chẳng hạn như các nền tảng chính thức của OpenAI, Anthropic, Google, v.v. | Độ ổn định và quy định rõ ràng hơn, nhưng có thể có các rào cản về thanh toán, khu vực địa lý, giá cả và hạn ngạch. |
| Mirror / Proxy | Chuyển tiếp yêu cầu đến lớp trung gian của dịch vụ đích. | Hãy đặc biệt chú ý đến quyền riêng tư, độ ổn định và việc nội dung yêu cầu có bị lưu lại hay không khi gặp các thuật ngữ này. |
| Bảng điều khiển New API / Tùy biến thứ cấp | Nhiều nhà cung cấp AI thiết lập hoặc phát triển thêm backend dựa trên các mã nguồn mở. | Tên menu có thể là Token, Kênh (Channel), Phân nhóm (Grouping), Hệ số mô hình (Model Multiplier), và không nhất thiết phải giống với nền tảng chính thức. |
| Kênh (Channel) | Đường truyền trong backend kết nối đến một dịch vụ mô hình upstream nhất định. | Khi kênh gặp sự cố, Key có thể đúng nhưng yêu cầu vẫn thất bại. |
| Phân nhóm mô hình | Chỉ định các mô hình khác nhau hoặc các quyền hạn khác nhau cho các nhóm khác nhau. | Khi key của bạn không thuộc nhóm tương ứng, mô hình sẽ không khả dụng hoặc báo lỗi 'model not found'. |
| Ánh xạ mô hình (Model Mapping) | Nhà cung cấp ánh xạ một tên hiển thị sang mô hình upstream thực tế. | Tên hiển thị trên giao diện có thể khác với tên mô hình thực; khi cấu hình, hãy tuân theo yêu cầu của backend. |
Các trường cấu hình
| Cài đặt | Giải thích dễ hiểu | Cách điền |
|---|---|---|
| API | Ứng dụng gọi API của mô hình. Công cụ không mở giao diện chat web mà gửi câu hỏi đến nhà cung cấp qua API. | Chỉ cần thiết nếu công cụ hỗ trợ cấu hình API một cách rõ ràng. |
| API Key / Key / Secret | Chuỗi ký tự được công cụ sử dụng để chứng minh "Tôi là tài khoản này." | Sao chép toàn bộ nội dung từ trang quản trị của nhà cung cấp, không chụp ảnh màn hình công khai và không sao chép thừa khoảng trắng. |
| Token | Cách nhiều nhà cung cấp AI gọi Key trong trang quản trị của họ. | Khi thấy token, Token, API Key hoặc secret, chúng thường chỉ cùng một thứ: thông tin xác thực quyền truy cập. |
| Base URL / Địa chỉ API | Địa chỉ giao diện do nhà cung cấp cung cấp để công cụ gửi yêu cầu đến mô hình. | Đây là liên kết API; đôi khi trông giống trang chủ trang web, đôi khi cần kết thúc bằng /v1, hãy làm theo hướng dẫn trong backend. |
| Endpoint | Tên gọi khác của địa chỉ giao diện API. | Nếu bạn thấy Endpoint trong tài liệu của nhà cung cấp, thông thường hãy tìm Địa chỉ API hoặc Base URL. |
| Provider | Mục cấu hình nhà cung cấp trong công cụ. | Có thể hiểu là "Tôi muốn sử dụng nhà cung cấp nào, Key nào, địa chỉ API nào." |
| Model / Model ID / Tên mô hình | Cho nhà cung cấp biết cần gọi API của mô hình nào. | Sao chép chính xác theo danh sách mô hình trong backend; chỉ thêm thủ công nếu việc tải danh sách mô hình thất bại. |
| Tương thích với OpenAI | Định dạng API của nhà cung cấp mô phỏng API của OpenAI, và nhiều công cụ chỉ cần điền dưới dạng OpenAI Provider. | Tương thích với OpenAI không có nghĩa là hỗ trợ tất cả các giao diện của Claude, Gemini, hình ảnh và video. |
Thanh toán và giới hạn
| Thuật ngữ | Giải thích dễ hiểu | Người mới bắt đầu cần chú ý điều gì? |
|---|---|---|
| Số dư (Balance) | Số tiền hoặc điểm bạn vẫn có thể sử dụng trong tài khoản nhà cung cấp. | Số dư không đủ có thể khiến yêu cầu thất bại, đây không nhất thiết là lỗi cấu hình. |
| Hệ số giá (Pricing multiplier) | Hệ số tính phí thường dùng tại các nhà cung cấp AI, cho biết giá của một mô hình nhất định được nhân lên bao nhiêu lần. | Mô hình càng mạnh, ngữ cảnh càng lớn, tác vụ hình ảnh và video càng phức tạp thì hệ số có thể càng cao. |
| Giá đầu vào | Chi phí phát sinh từ nội dung bạn gửi đến mô hình. | Tài liệu dài, mã nguồn dài và lịch sử trò chuyện dài sẽ làm tăng chi phí đầu vào. |
| Giá đầu ra | Chi phí phát sinh từ nội dung phản hồi của mô hình. | Khi yêu cầu mô hình viết nội dung rất dài, chi phí đầu ra cũng sẽ tăng lên. |
| Số yêu cầu đồng thời (Concurrency) | Có thể khởi tạo cùng lúc bao nhiêu yêu cầu. | Khi mức đồng thời quá thấp, việc mở nhiều công cụ hoặc chia sẻ giữa nhiều người sẽ dẫn đến tình trạng phải xếp hàng hoặc thất bại. |
| RPM / TPM | Giới hạn số yêu cầu mỗi phút (RPM) / số token mỗi phút (TPM). | Khi báo lỗi giới hạn tốc độ (rate limit), điều đó thường có nghĩa là gửi yêu cầu quá nhanh hoặc nội dung quá dài. |
| Độ dài ngữ cảnh | Một yêu cầu có thể mang tối đa bao nhiêu nội dung? | Khi vượt quá giới hạn, công cụ có thể cắt bớt nội dung, báo lỗi trực tiếp hoặc tự động nén/tóm tắt lịch sử hội thoại trước khi tiếp tục. |
| Bộ nhớ đệm (Cache) | Nhà cung cấp hoặc mô hình tái sử dụng nội dung đã xử lý để giảm chi phí hoặc tăng tốc độ. | Bộ nhớ đệm không nhất thiết tự động có hiệu lực, cũng không nhất thiết hoàn toàn miễn phí; điều này phụ thuộc vào quy tắc của nhà cung cấp và mô hình. |
| Giá bộ nhớ đệm | Thuật ngữ chung cho các chi phí liên quan đến cache; một số hệ thống backend chia nhỏ thành các mức giá khác nhau như tạo, đánh trúng (hit), đọc, v.v. | Khi thấy giá cache, trước tiên hãy xác nhận xem đó là ghi cache, đọc cache hay backend đang gộp nhiều mục lại để hiển thị. |
| Giá tạo cache / Giá ghi cache | Chi phí phát sinh khi ghi một đoạn nội dung có thể tái sử dụng vào bộ nhớ đệm lần đầu tiên. | Khi sử dụng system prompt dài, tài liệu dài hoặc ngữ cảnh cố định lần đầu tiên, loại phí này có thể phát sinh. |
| Giá trúng cache / Giá đọc cache | Chi phí phát sinh khi các yêu cầu tiếp theo tái sử dụng nội dung đã được lưu vào bộ nhớ đệm. | Thường thấp hơn giá đầu vào thông thường nhưng vẫn có thể bị tính phí; đừng mặc định rằng trúng cache là hoàn toàn miễn phí. |
| Trúng bộ nhớ đệm (Cache hit) | Một phần nội dung trong yêu cầu này được nhà cung cấp nhận diện là giống với trước đó và tái sử dụng trực tiếp từ cache. | Cache chỉ được ghi nhận trúng nếu đáp ứng các quy tắc của nhà cung cấp, chẳng hạn như có cùng tiền tố, nội dung đủ dài và được tái sử dụng trong thời hạn hiệu lực. |
| Thời gian hết hạn cache | Khoảng thời gian mà bộ nhớ đệm có thể được tái sử dụng. | Gửi lại yêu cầu sau khi hết hạn có thể bị tính phí như đầu vào thông thường, hoặc lại phát sinh phí tạo bộ nhớ đệm. |
Các từ khóa lỗi phổ biến
| Mã/Từ khóa lỗi | Ý nghĩa phổ biến | Kiểm tra ưu tiên |
|---|---|---|
| 401 / Unauthorized | Xác thực thất bại. | Kiểm tra xem Key có đầy đủ không, đã hết hạn chưa, hoặc có bị sao chép thừa khoảng trắng không. |
| 403 / Forbidden | Tài khoản hoặc Key không có quyền truy cập. | Quyền của mô hình, quyền của nhóm, giới hạn khu vực, trạng thái số dư. |
| 404 / model not found | Mô hình không tồn tại hoặc Key hiện tại không thể sử dụng mô hình này. | Kiểm tra xem tên mô hình có được sao chép đúng từ backend không, và Key đã được thêm vào nhóm mô hình tương ứng chưa. |
| 429 / rate limit | Yêu cầu quá thường xuyên hoặc đã đạt giới hạn hạn ngạch. | Mức đồng thời, RPM, TPM, giới hạn của nhà cung cấp; vui lòng thử lại sau. |
| timeout / timeout | Yêu cầu không trả về kịp thời. | Base URL, mạng, trạng thái nhà cung cấp, mô hình có đang bị xếp hàng không. |
| invalid api key | Định dạng Key hoặc quyền hạn không đúng. | Sao chép lại Key, đảm bảo không nhầm lẫn tên ghi chú với Key. |
| invalid base url | Địa chỉ giao diện không chính xác. | Xác nhận đó là địa chỉ API chứ không phải địa chỉ bảng điều khiển; có cần /v1 hay không hãy ưu tiên theo hướng dẫn của backend. |
| insufficient quota | Không đủ hạn mức hoặc số dư. | Số dư tài khoản, hệ số mô hình, tiền nạp đã vào tài khoản chưa. |
Khi bạn không hiểu thông báo lỗi, đừng thay đổi nhiều mục cùng một lúc. Hãy kiểm tra theo thứ tự: Key, Base URL, tên mô hình, số dư, quyền của mô hình, trạng thái của nhà cung cấp.