파운데이션 모델(Foundation Model)
한 줄 정의
파운데이션 모델(Foundation Model)은 대규모 데이터로 사전 학습되어 다양한 업무에 범용으로 활용할 수 있는 대형 AI 모델이다.
왜 중요한가(실무)
GPT, Claude, Gemini 같은 파운데이션 모델은 특정 업무 하나가 아니라 텍스트 생성, 요약, 번역, 코드 작성, 데이터 분석 등 수십 가지 작업을 하나의 모델로 처리한다. 기업 입장에서는 "업무마다 별도 AI를 개발할 필요 없이, 하나의 모델을 다양한 용도로 배치"할 수 있다는 뜻이다.
그러나 범용이라는 것은 곧 "우리 회사 맥락을 모른다"는 의미이기도 하다. 파운데이션 모델을 잘 활용하려면 프롬프트 설계, RAG, 파인튜닝 같은 맞춤화 전략이 필수적이며, 어떤 모델을 선택하느냐에 따라 비용·성능·보안 구조가 크게 달라진다.
핵심 이론(직관)
1) '기초 공사'에 해당하는 모델
파운데이션 모델이라는 이름 자체가 "건물의 기초(foundation)"에서 왔다. 수십억~수조 개의 텍스트 데이터를 학습해 언어의 패턴, 세계 지식, 추론 능력을 갖추고 있으며, 이 위에 프롬프트나 추가 학습을 얹어 특정 업무에 적용한다.
2) '범용'이지 '만능'이 아니다
파운데이션 모델은 광범위한 일반 지식을 갖고 있지만, 특정 도메인(의료·법률·금융 등)의 최신 정보나 사내 규정 같은 폐쇄 지식은 부족하다. 따라서 "파운데이션 모델 + 우리 데이터"를 결합하는 방식(RAG, 시스템 프롬프트 등)이 실무 도입의 핵심이다.
3) 모델마다 특성이 다르다
같은 '파운데이션 모델'이라도 제공사·크기·학습 데이터에 따라 강점이 다르다. 긴 문서 처리에 강한 모델, 코드 생성에 강한 모델, 비용 효율이 좋은 경량 모델 등이 있으므로 용도별 선택이 필요하다.
실무 포인트
1) 모델 선택은 비용·성능·보안의 삼각 균형
가장 큰 모델이 항상 최선은 아니다. 단순 분류·요약 업무에 최대 모델을 쓰면 비용만 늘어난다. 업무 난이도에 따라 경량 모델과 고성능 모델을 구분 배치하는 "모델 라우팅" 전략이 비용 효율의 핵심이다.
2) 벤더 종속(Lock-in)을 의식적으로 관리하라
하나의 모델/API에만 의존하면 가격 인상, 서비스 중단, 정책 변경에 취약해진다. 프롬프트와 파이프라인을 모델 중립적으로 설계하고, 주요 시나리오에 대해 대체 모델 테스트를 주기적으로 수행한다.
체크리스트
- 도입하려는 업무에 적합한 모델 크기와 가격대를 비교 검토했는가
- 민감 데이터가 외부 API로 전송되는 구조인지, 온프레미스/프라이빗 배포가 필요한지 확인했는가
- 특정 벤더 종속을 최소화할 수 있는 추상화 계층(프롬프트 템플릿, API 게이트웨이 등)이 있는가
- 모델 업데이트·버전 변경 시 기존 출력 품질이 유지되는지 검증할 평가 세트가 준비되어 있는가