4090 사용자들 중에서 webui 속도가 느린 경우가 존재한다. 이런 부분에서 가장 중요한 게 바로 cudnn이라는 엔비디아 CUDA Deep Neural Network 라이브러리의 버전이다. 현재 webui 생성시 가장 빠른 버전이라고 알려진 것은 11.8 버전이며, 이것으로 업데이트를 해주어야 정상적인 속도가 나온다.
귀찮게 파이토치, cudnn을 바꿔주지 않아도 최신 버전으로 사용할 수 있는 방법. 아래의 글을 참고하길 바람
xformer 사용이나 파이토치 버전 업그레이드 등 복잡한 방법을 거치치 않고도 cudnn 버전만 바꿔주면 쉽게 성능 향상을 꾀할 수 있다. 물론, 4090의 모든 것을 활용하고 싶다면 해외 커뮤니티를 찾아 최적의 세팅을 찾는 것이 중요하지만, 그게 너무 복잡한 사람들은 cudnn 버전만 바꿔주면 된다.
webui에서 이미지를 뽑는데 대략 20it/s 정도는 나와주는 모습이다. 이 정도는 되어야 RTX 4090대를 사용한다고 할 수 있으리라. 3000번대에도 cudnn의 파일 교체로 성능 향상이 이뤄질 수 있으니 3천번대 사용자도 이용해주면 좋다고 한다.
cudnn 다운로드 받기
https://developer.nvidia.com/rdp/cudnn-download
링크로 이동해서 다운로드 받을 수 있다.
11.x라고 되어 있는 부분을 클릭한다.
그럼 이런 창이 뜰 텐데, 로컬 인스톨러 for window 버전을 다운로드 받는다.
Webui에 Cudnn 적용하기
파일 압축을 풀고 cudann\cudnn-windows-x86_64-8.8.1.3_cuda11-archive\bin 주소로 들어간준다. dll 파일을 모두 복사한다. 그런 다음 webui 설치 폴더로 들어가준다.
stable-diffusion-webui\venv\Lib\site-packages\torch\lib 폴더에 해당 dll 파일을 붙여넣는다.
붙여넣기 전에 혹시 모르니 lib 폴더 자체를 백업해놓길 바람!
만약 webui 원클릭 설치로 설치했다면, 해당 주소가 아니라
cache\virtualenv\Lib\site-packages\torch\lib
위의 주소에 붙여넣어야 한다. lib 폴더 자체를 백업해놓는 것을 잊지 말길!
webui 자주 묻는 질문
그래도 빨라지지 않는다면?
venv를 삭제한 후에 webui를 실행하여 필요한 패키지를 다시 다운로드 받아보세요. 그런 다음, 다른 작업을 하지 않고 cuDNN만 교체해보십시오. 전체를 삭제할 필요는 없으며, venv 디렉토리만 제거하면 됩니다.
해당 방법을 적용해도 안 빨라집니다.(4070ti 사용자)
해외 웹사이트에서 검색을 통해 11월에 출시된 구버전인 CUDA 11.8(기존 본문에 있는 것은 2월 최신 버전임)을 찾아 적용해보니 속도가 두 배 빨라졌다는 이야기가 있었습니다.
주소 : https://developer.download.nvidia.com/compute/redist/cudnn/v8.7.0/local_installers/11.8/