본문으로 건너뛰기

민감정보 노출(Sensitive Information Disclosure) / 데이터 유출(Exfiltration)

← 용어 사전

한 줄 정의​

  • 민감정보 노출(Sensitive Information Disclosure): 민감정보(PII/계약/전략 등)가 모델 출력이나 시스템 경로를 통해 노출되는 문제
  • 데이터 유출(Exfiltration): 데이터가 의도치 않게 외부로 반출/노출되는 사고(출력/로그/연동/권한 포함)

왜 중요한가(실무)​

실무에서 가장 치명적인 AI 사고는 “틀린 답”보다 “유출”인 경우가 많다.

  • 법적 리스크(개인정보/계약)
  • 평판 리스크(신뢰 붕괴)
  • 보안 리스크(침해 확산)

유출은 입력 단계에서만 발생하지 않는다. 출력/로그/커넥터에서도 터진다.

유출이 발생하는 경로(대표)​

1) 입력​

사용자가 무심코 민감정보 원문을 외부 AI 서비스에 넣는 경우.

2) 출력​

모델이 근거 문서의 원문을 과도하게 재현하거나, 비공개 정보를 요약해 외부로 내보내는 경우.

3) 로그/모니터링​

질문/근거/출력 로그에 민감정보가 그대로 남고 접근 통제가 약한 경우.

4) RAG/커넥터​

권한 필터가 없어서 “보면 안 되는 문서”가 근거로 끼어드는 경우.

실무 방어 체크리스트​

  • 민감정보 분류(공개/내부/기밀/민감)가 있는가
  • 외부 AI 서비스 입력 금지 리스트가 있고 교육되는가
  • 로그에 원문을 남기는지/요약만 남기는지 정책이 있는가
  • 로그 접근 권한/보관 기간이 정해져 있는가
  • RAG 검색에 권한 필터가 적용되는가

더 읽기​