GPU 1대로 LM Studio와 ComfyUI를 함께 돌리는 방법

이 글은 한 대의 AI 서버와 GPU 1개에서 LM Studio, ComfyUI, OpenWebUI를 함께 쓰는 설정 방법을 설명합니다. 작성자는 ComfyUIVRAM 정리 노드를 넣고, LM Studio 서버 기능과 GPU 메모리 관련 설정을 조정했다고 말합니다. 테스트 환경은 Geforce 5060ti 16GB, 64GB 메모리, Bazzite Linux입니다.

핵심 포인트

  • LM StudioComfyUI를 같은 시스템에 설치하는 방식입니다.
  • OpenWebUI가 두 도구와 연결되도록 설정해야 합니다.
  • ComfyUI workflowVRAM 정리 노드를 넣는 것이 핵심이라고 설명합니다.
  • LM Studio에서 GPU 메모리 오프로딩 제한 설정을 켜라고 안내합니다.
  • 문제가 있으면 이미지 출력 전에 모델이 제대로 내려갔는지 확인하라고 말합니다.

용어 한 줄 설명

LM Studio
내 컴퓨터에 인공지능 모델을 다운로드하고 바로 실행해볼 수 있게 돕는 쉬운 프로그램입니다.
ComfyUI
이미지 생성 AI 작업 흐름을 화면에서 연결해 만드는 도구입니다.
OpenWebUI
여러 AI 모델을 웹 화면에서 쓰게 해주는 인터페이스입니다.
VRAM
그래픽 카드(GPU)에 내장된 메모리로, AI 모델을 실행할 때 여기에 올려야 합니다.
16GB
컴퓨터가 한 번에 작업할 때 쓰는 메모리 용량입니다.
AI 에이전트
사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
하드웨어
컴퓨터를 구성하는 기계 장치나 부품을 말합니다.
workflow
어떤 일을 처리하기 위해 정해 둔 작업 순서입니다.
원문 보기