시스템 프롬프트(System Prompt)
한 줄 정의
시스템 프롬프트(System Prompt)는 모델의 역할/규칙/금지 사항을 상위에서 고정하는 지시다. 사용자 프롬프트보다 우선순위가 높게 적용되는 경우가 많다.
왜 중요한가(실무)
시스템 프롬프트는 “조직의 기준”을 모델 행동으로 번역하는 층이다.
- 근거가 없으면 “확인 필요”로 표시
- 민감정보는 출력/재현하지 않기
- 정책 문서만을 근거로 답하기
- 대외 문서 톤(과장 금지) 유지
즉, 시스템 프롬프트는 기술 설정이 아니라 거버넌스의 일부다.
핵심 개념(운영 관점)
1) 시스템 프롬프트도 버전 관리 대상이다
프롬프트를 조금만 바꿔도 결과가 바뀐다.
그래서 시스템 프롬프트는 변경 이력, 승인, 롤백(원복) 규칙이 필요하다.
2) 시스템 프롬프트는 ‘만능 방패’가 아니다
프롬프트 인젝션 같은 공격은 시스템 프롬프트만으로 완전히 막기 어렵다.
권한 통제, 출력 검증, 로그/감사, 레드팀 테스트가 함께 있어야 한다.
실무 템플릿(짧은 예시)
역할: 당신은 [업무 역할]이다.
범위: [허용된 문서/도구]만 사용한다.
금지: 민감정보/비공개 정보는 출력하지 않는다. 추측하지 않는다.
표기: 근거가 없으면 '확인 필요'로 표시한다.
출력: [표/목록/형식]으로 답한다.
체크리스트
- 시스템 프롬프트 변경이 승인 절차를 거치는가
- 변경 전후를 골든 세트로 평가(Eval)하는가
- 프롬프트 인젝션/권한 없는 요청을 레드팀으로 점검했는가