프롬프팅

프롬프팅은 지시, 컨텍스트, 예시, 출력 형식으로 작업을 지정하는 방법입니다. 애플리케이션 설계의 한 계층이며, 권한을 강제하거나 사실성을 보장하고 검증을 대체하지는 못합니다.

작업과 독자를 명확히 하고, 지시와 신뢰할 수 없는 입력을 분리하며, 정보가 없을 때의 동작과 출력 schema를 지정하세요. 예시는 실제 모호성을 줄일 때만 사용합니다. 구분자는 데이터와 지시를 구별하는 데 도움을 주지만 prompt injection을 방지하지는 않습니다. 행동 권한은 모델 밖에서 제한해야 합니다.

복잡한 작업은 검색, 추출, 검증, 합성 단계로 나눌 수 있습니다. Prompt는 코드처럼 versioning하고 고정된 평가 세트에서 비교하세요. 모호한 입력, 적대적 입력, 답할 수 없는 입력을 포함하고 품질, 형식 준수, 거부 동작, 지연시간, 토큰 사용량을 함께 측정합니다.