본문 바로가기

Stable Diffusion 사용 중 'CUDA Out of Memory' 오류 해결 가이드

ukiki 2023. 12. 19.

Stable Diffusion을 사용하는 과정에서 많은 사용자들이 'CUDA Out of Memory' 오류와 마주치게 됩니다. 이 오류는 주로 메모리 부족으로 인해 발생하는 것으로, 몇 가지 해결 방법을 통해 간단하게 해결할 수 있습니다.

오류의 원인

Stable Diffusion은 AI 이미지 생성 도구로, 고해상도 이미지나 여러 이미지를 동시에 생성할 경우 높은 메모리 사용량으로 인해 GPU의 VRAM이 부족해질 수 있습니다. 이러한 상황에서 'CUDA Out of Memory' 오류가 발생하게 됩니다.

해결방법

그래픽 카드를 업그레이드 하는 것이 근본적인 문제를 해결하는 가장 좋은 방법이지만 많은 비용이 발생하므로 현실적인 해결 방법을 소개합니다. 스테이블 디퓨전의 xformers 모듈을 사용하여 메모리 사용량을 줄이는 것입니다.

formers 모듈 사용 방법:

  • Stable Diffusion을 모두 종료합니다.
  • 설치경로\sd.webui\webui 폴더 안의 webui-user.bat 파일을 메모장으로 엽니다.
  • "set COMMANDLINE_ARGS=" 부분에 "set COMMANDLINE_ARGS=--xformers"를 추가합니다.
  • 저장 후 메모장을 종료하고 Stable Diffusion을 재실행합니다.

webui-user.bat 파일에 --xformers 추가합니다.

추가 조치: 지속적인 오류 발생 시, webui-user.bat 파일에 "set COMMANDLINE_ARGS=--xformers --medvram"를 추가해 보세요

댓글