LLM·SLM 미세 조정은 비용 절감에 실제로 도움이 될까
LLM이나 SLM을 미세 조정할 때의 핵심 목적은 크게 세 가지로 나뉜다. 특정 분야 지식을 더 잘 다루게 만들기, 답변 말투나 형식을 일정하게 맞추기, 작은 모델인 SLM을 써서 비용을 줄이기다.
실제로 미세 조정을 하는 경우 어떤 데이터를 쓰는지도 중요한 쟁점이다. 공개된 오픈소스 데이터만으로 충분한지, 아니면 돈을 내고 데이터셋을 사야 하는지가 비용과 품질을 함께 좌우한다.
핵심 포인트
용어 한 줄 설명
- LLM
- 글과 코드를 읽고 답을 만드는 대형 AI 모델입니다.
- SLM
- LLM보다 작고 가벼워 비용과 속도 면에서 유리할 수 있는 언어 모델이다.
- 미세 조정
- 이미 학습된 인공지능 모델을 특정 목적에 맞게 추가로 가르치는 일이다.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 사용할 수 있게 한 방식입니다.
- 데이터셋
- 분석이나 학습에 쓸 수 있도록 정리된 대량의 데이터 묶음
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 추론 비용
- AI가 답변을 만들어낼 때 들어가는 서비스 이용료를 말합니다.
- 학습 데이터
- AI가 공부하고 배우는 데 사용되는 엄청난 양의 정보나 자료들을 말합니다.