용어집
Agent
상태, 행동 선택, 관찰, 종료 조건을 통해 목표를 추구하는 시스템입니다.
Attention
query와 key의 유사도로 가중치를 구해 value 벡터를 문맥에 맞게 결합하는 메커니즘입니다.
Chunk
큰 문서에서 만든 검색 단위입니다. 경계와 크기는 검색 정밀도와 보존되는 문맥에 영향을 줍니다.
Context Window
한 번의 생성에서 모델이 처리할 수 있는 토큰화된 정보의 범위로, 입력과 확보해 둔 출력 공간을 포함합니다.
Embedding
선택한 유사도 함수가 작업에 유용한 관계를 나타내도록 학습된 벡터 표현입니다.
Grounding
생성된 주장을 확인 가능한 증거나 검증된 외부 상태에 연결하는 것입니다.
Hallucination
사용 맥락에서 거짓이거나 근거가 없거나 오해를 부르는 유창한 출력입니다.
RAG
외부 증거를 검색하고 선택한 일부를 생성 컨텍스트에 포함하는 검색 증강 생성입니다.
Reranker
첫 검색기가 반환한 제한된 후보 집합을 더 정밀하게 재정렬하는 모델 또는 점수화 단계입니다.
Structured Output
JSON Schema나 typed record 같은 기계 판독 계약을 따르는 모델 출력입니다.
Token
토크나이저가 생성해 모델이 처리하는 이산 식별자입니다. 단어, 하위 단어, 기호, 공백, byte를 나타낼 수 있습니다.
Tool Use
모델 기반 애플리케이션이 외부 함수나 서비스를 요청하는 통제된 인터페이스입니다.
Vector Database
임베딩을 저장하고 nearest-neighbor 검색을 지원하는 데이터베이스 또는 검색 시스템입니다.