AI 및 AI 중전소(API 제공업체) 필수 용어 가이드
Key, Base URL, 모델명, 배율, 오류 코드 등으로 혼란스럽다면, 연동이나 문제 해결을 진행하기 전에 먼저 이 용어집을 확인해 보세요.
AI 기본 용어
| 용어 | 쉬운 설명 | 초보자가 주의할 점 |
|---|---|---|
| 모델 (Model) | 질문 답변, 코드 작성, 이미지/영상 생성 등을 실제로 수행하는 AI 엔진입니다. | 모델명은 제공업체의 관리자 페이지(백엔드)에서 정확히 복사해야 합니다. 대소문자, 하이픈(-), 버전 번호 등을 임의로 수정하지 마세요. |
| 대규모 언어 모델 (LLM / Large Model) | 자연어, 코드, 이미지 등 복합적인 작업을 처리할 수 있는 모델의 통칭입니다. | 더 비싸다고 해서 무조건 내 작업에 적합한 것은 아닙니다. 모델에 따라 글쓰기, 코딩, 이미지, 영상 등 특화된 분야가 다릅니다. |
| 멀티모달 (Multimodal) | 하나의 모델이 텍스트뿐만 아니라 이미지, 오디오, 비디오 등 다양한 형태의 입력을 함께 처리할 수 있는 기능입니다. | 사용하는 도구가 멀티모달을 지원한다고 해서, 현재 제공업체나 선택한 모델까지 멀티모달을 지원하는 것은 아닙니다. |
| 프롬프트 / 지시어 (Prompt) | "이 내용을 요약해 줘"와 같이 사용자가 AI에게 전달하는 요청문입니다. | 프롬프트가 구체적일수록 원하는 결과를 얻기가 훨씬 수월해집니다. |
| 시스템 프롬프트 (System Prompt) | 일반 질문보다 우선순위가 높은 규칙으로, AI의 역할, 답변 스타일, 안전 가이드라인 등을 설정하는 데 주로 쓰입니다. | 코딩 도구의 시스템 프롬프트는 AI가 파일을 읽고 코드를 수정하는 방식 전반에 직접적인 영향을 미칩니다. |
| 컨텍스트 윈도우 (Context Window) | 모델이 한 번에 기억하고 처리할 수 있는 정보(텍스트)의 총량입니다. | 컨텍스트가 크다고 해서 모델이 더 똑똑한 것은 아니지만, 긴 문서 처리, 대규모 프로젝트, 길게 이어지는 다중 대화에 유리합니다. |
| 자동 압축 / 자동 요약 | 대화나 파일 내용이 컨텍스트 제한에 도달하려고 할 때, 일부 도구가 이전 내용을 요약본으로 줄인 후 모델에 이어서 전달하는 기능입니다. | 자동 압축 덕분에 대화를 계속 이어갈 수 있지만, 요약 과정에서 세부 정보가 누락될 수 있습니다. 디버깅, 코드 수정, 설정 확인 시 모델이 원본 텍스트 전체를 여전히 기억하고 있을 것이라 단정하지 마세요. |
| 토큰 (Token) | 모델 요금 청구 및 길이 계산의 기본 단위로, 텍스트가 쪼개진 최소 조각으로 이해하면 쉽습니다. | 입력과 출력 모두 토큰을 소모하며, 문서나 대화가 길어질수록 비용이 크게 증가합니다. |
| 온도 (Temperature) | 응답의 무작위성(창의성)을 조절하는 파라미터입니다. | 일관되고 재현 가능한 결과를 원한다면 낮추고, 다양하고 창의적인 답변을 원한다면 적절히 높이세요. |
AI 제공업체(중전소) 관련 용어
| 용어 | 쉬운 설명 | 초보자가 주의할 점 |
|---|---|---|
| AI 제공업체 / 중전소 | 사용자의 도구 요청을 하나 이상의 모델 서비스 플랫폼으로 전달(중계)해 주는 서비스입니다. | 자체 모델이 아니므로, 어떤 모델을 지원하는지, 서비스 안정성, 가격, 리스크 이력 등을 중점적으로 살펴봐야 합니다. |
| Provider (제공자) | AI 인터페이스, 모델, 과금, 관리 패널을 제공하는 플랫폼으로, 공식 개발사이거나 중전소일 수 있습니다. | 제공업체마다 API 주소, 키 체계, 모델명, 과금 방식이 모두 다를 수 있습니다. |
| 공식 채널 (Official channels) | OpenAI, Anthropic, Google 등 모델 개발사가 직접 운영하는 공식 플랫폼 서비스입니다. | 안정성과 이용 규칙이 명확하지만, 결제 수단, 지역 제한, 높은 가격, 쿼터 제한 등의 진입 장벽이 있을 수 있습니다. |
| 미러 / 프록시 (Mirror / Proxy) | 요청을 대상 서비스의 중간 계층으로 전달해 주는 방식입니다. | 이러한 용어가 있는 경우 개인정보 보호, 안정성, 요청 데이터의 저장 여부 등을 각별히 확인해야 합니다. |
| New API / 커스텀 관리 패널 | 오픈소스 패널(예: New API)을 기반으로 구축하거나 2차 개발하여 운영하는 중전소 관리 시스템입니다. | 메뉴 이름이 토큰, 채널, 그룹, 모델 배율 등으로 표시될 수 있으며, 공식 플랫폼의 용어와 일치하지 않을 수 있습니다. |
| 채널 (Channel) | 관리자 시스템 내부에서 특정 업스트림 모델 서비스와 연결되는 개별 회선입니다. | 해당 채널에 장애가 발생하면 키가 정상이더라도 요청이 실패할 수 있습니다. |
| 모델 그룹화 (Model Grouping) | 다양한 모델이나 권한을 특정 그룹별로 나누어 배정하는 방식입니다. | 보유한 키가 해당 그룹에 포함되어 있지 않으면 모델을 사용할 수 없거나 'model not found' 오류가 발생합니다. |
| 모델 매핑 (Model Mapping) | 제공업체가 표시용 이름과 실제 호출되는 업스트림 모델을 매핑(연결)해 주는 기능입니다. | 화면에 표시된 이름과 실제 백엔드 모델명이 다를 수 있으므로 설정 시 시스템 안내를 따라야 합니다. |
설정 항목 필드
| 설정 항목 | 쉬운 설명 | 입력 방법 |
|---|---|---|
| API | 애플리케이션이 모델의 기능을 호출하는 인터페이스입니다. 웹 채팅 화면을 통하지 않고 API를 통해 제공업체로 질문을 전송합니다. | 사용하는 도구가 명시적으로 API 설정을 지원하는 경우에만 입력합니다. |
| API Key / Key / Secret | 도구가 "내가 이 계정의 사용자임"을 증명하기 위해 사용하는 고유 문자열(인증키)입니다. | 제공업체 관리자 화면에서 전체 내용을 그대로 복사하세요. 외부에 스크린샷으로 공개하거나 앞뒤에 공백이 들어가지 않도록 주의하세요. |
| Token (토큰) | 많은 중전소 관리 패널에서 API Key를 지칭하는 용어입니다. | token, Token, API Key, secret 등은 대부분 동일한 '접근 인증키'를 가리킵니다. |
| Base URL / API Address | 도구가 모델을 호출할 수 있도록 제공업체가 제공하는 인터페이스 주소(URL)입니다. | API 접속 링크입니다. 일반 웹사이트 주소 형태일 수도 있고, 끝에 /v1이 붙어야 하는 경우도 있으니 백엔드 가이드를 따르세요. |
| Endpoint (엔드포인트) | 인터페이스 주소를 부르는 또 다른 명칭입니다. | 문서에서 Endpoint라는 표현을 보면 API Address나 Base URL을 의미하는 것으로 이해하면 됩니다. |
| Provider (제공업체) | 도구 내에서 설정하는 제공자 선택 항목입니다. | "어떤 제공업체의 어떤 Key와 API 주소를 사용할 것인가"를 지정하는 옵션입니다. |
| Model / Model ID / Model Name | 제공업체에 어떤 모델의 API를 호출할 것인지 알려주는 식별자입니다. | 백엔드 모델 목록에 적힌 이름을 그대로 복사하세요. 모델 목록 자동 불러오기가 실패할 때만 수동으로 입력합니다. |
| OpenAI 호환 (Compatible with OpenAI) | 제공업체의 API 규격이 OpenAI 형식을 모방하여, 여러 도구에서 'OpenAI Provider'로 바로 설정할 수 있는 방식입니다. | OpenAI와 호환된다고 해서 Claude, Gemini의 모든 기능이나 이미지, 영상 API까지 전부 완벽히 지원한다는 뜻은 아닙니다. |
과금 및 제한
| 용어 | 쉬운 설명 | 초보자가 주의할 점 |
|---|---|---|
| 잔액 (Balance) | 제공업체 계정에 남아 있는 사용 가능한 금액 또는 포인트입니다. | 잔액이 부족하면 요청이 실패할 수 있으며, 이는 설정 오류가 아닙니다. |
| 가격 배율 (Pricing multiplier) | 중전소에서 자주 사용하는 요금 계수로, 특정 모델이 기준 가격의 몇 배로 청구되는지를 나타냅니다. | 성능이 뛰어난 모델일수록, 컨텍스트가 클수록, 이미지/영상 작업이 복잡할수록 배율이 높아질 수 있습니다. |
| 입력 비용 (Input price) | 사용자가 모델로 전송한 프롬프트나 문서 내용에 따라 발생하는 비용입니다. | 긴 문서, 방대한 코드, 이전 대화 기록이 길어질수록 입력 비용이 증가합니다. |
| 출력 비용 (Output Price) | 모델이 생성해 낸 응답 내용에 따라 발생하는 비용입니다. | 모델에게 매우 긴 답변을 작성하도록 요청하면 출력 비용도 함께 늘어납니다. |
| 동시 요청 수 (Concurrency) | 동시에 보낼 수 있는 요청의 최대 개수입니다. | 동시성 한도가 너무 낮으면 여러 도구를 동시에 실행하거나 여러 명이 키를 공유할 때 대기열이 생기거나 요청이 실패합니다. |
| RPM / TPM | 분당 요청 수(Requests Per Minute) 및 분당 토큰 수(Tokens Per Minute) 제한입니다. | 속도 제한(Rate Limit) 오류가 발생한다면 요청 간격이 너무 짧거나 전송한 내용이 너무 길다는 의미입니다. |
| 컨텍스트 길이 (Context length) | 한 번의 요청에 담을 수 있는 최대 텍스트 용량입니다. | 한도를 초과하면 도구가 내용을 임의로 자르거나, 오류를 반환하거나, 이전 대화를 자동으로 압축/요약한 후 진행할 수 있습니다. |
| 캐시 (Cache) | 제공업체나 모델이 이미 처리된 내용을 재사용하여 비용을 절감하거나 응답 속도를 높이는 기술입니다. | 캐싱이 항상 자동으로 적용되거나 완전히 무료인 것은 아니며, 제공업체와 모델 규칙에 따라 달라집니다. |
| 캐시 비용 (Cache price) | 캐시 기능과 관련된 비용의 통칭입니다. 일부 관리 시스템에서는 생성, 히트, 읽기 등으로 세분화하여 표기합니다. | 캐시 가격을 볼 때 캐시 쓰기인지, 캐시 읽기인지, 아니면 여러 항목을 합산 표시한 것인지 먼저 확인하세요. |
| 캐시 생성 비용 / 캐시 쓰기 비용 | 재사용 가능한 콘텐츠를 캐시에 처음 기록할 때 발생하는 비용입니다. | 긴 시스템 프롬프트, 긴 문서, 고정 컨텍스트를 처음 전송할 때 이 비용이 발생할 수 있습니다. |
| 캐시 히트 비용 / 캐시 읽기 비용 | 이후 요청에서 이미 캐싱된 내용을 재사용할 때 발생하는 비용입니다. | 일반 입력 비용보다 훨씬 저렴한 편이지만 여전히 과금될 수 있으므로, 캐시 히트가 무조건 무료라고 생각해서는 안 됩니다. |
| 캐시 히트 (Cache hit) | 현재 요청 내용의 일부가 이전 데이터와 동일하다고 제공업체 시스템에 인식되어 캐시를 그대로 재사용한 상태입니다. | 접두사(Prefix) 일치, 충분한 텍스트 길이, 유효 기간 내 재사용 등 제공업체의 캐싱 조건을 충족해야 히트가 발생합니다. |
| 캐시 유효 시간 (Cache expiration time) | 캐시된 데이터를 재사용할 수 있는 유효 기간입니다. | 유효 시간이 지난 후 다시 요청하면 일반 입력으로 과금되거나 캐시 생성 비용이 다시 발생할 수 있습니다. |
자주 발생하는 오류 메시지
| 오류 문구 | 일반적인 의미 | 우선 점검 사항 |
|---|---|---|
| 401 / Unauthorized | 인증에 실패했습니다. | Key가 온전한지, 만료되지 않았는지, 복사 시 불필요한 공백이 포함되었는지 확인하세요. |
| 403 / Forbidden | 계정이나 키에 접근 권한이 없습니다. | 모델 권한, 그룹 권한, 지역 제한, 잔액 상태를 확인하세요. |
| 404 / model not found | 모델이 존재하지 않거나 현재 키로 해당 모델을 사용할 수 없습니다. | 모델명을 백엔드에서 그대로 복사했는지, 해당 Key가 해당 모델 그룹에 포함되어 있는지 확인하세요. |
| 429 / rate limit | 요청이 너무 빈번하거나 할당된 한도(쿼터)에 도달했습니다. | 동시성, RPM, TPM, 제공업체 한도를 확인하고 잠시 후 다시 시도하세요. |
| timeout / 타임아웃 | 요청에 대한 응답이 시간 내에 돌아오지 않았습니다. | Base URL, 네트워크 상태, 제공업체 서버 상태, 모델 대기열 유무를 확인하세요. |
| invalid api key | Key 형식이나 권한이 올바르지 않습니다. | Key를 다시 복사하고, 키 이름(메모)과 실제 Key 문자열을 혼동하지 않았는지 확인하세요. |
| invalid base url | 인터페이스 주소(Base URL)가 잘못되었습니다. | 콘솔 페이지 주소가 아닌 실제 API 주소인지 확인하세요. /v1 포함 여부는 백엔드 안내를 기준으로 합니다. |
| insufficient quota | 이용한도 또는 잔액이 부족합니다. | 계정 잔액, 모델 배율, 충전 내역이 정상 반영되었는지 확인하세요. |
오류 메시지의 원인을 잘 모르겠다면 여러 설정을 한꺼번에 바꾸지 마세요. Key, Base URL, 모델명, 잔액, 모델 권한, 제공업체 서비스 상태 순으로 하나씩 점검해 보세요.