4,475,349 th visitor since 2017.2.1 ( Today : 6074 )
Programming
No. 831
Name. swindler
Subject. [AI] Stable-Diffusion xformers 설정
Main Cate. 개발일반
Sub Cate.
Date. 2023-04-12 13:45
Hit. 219 (121.134.199.74)
File.
xformers를 사용하면 속도가 빨라지고, 메모리 사용량도 줄어든다고 한다.

webui-user.bat에 아래와 같이 추가하면 된다.

set COMMANDLINE_ARGS= --xformers --xformers-flash-attention



처음에 실행하면 자동으로 설치를 하는데,
가끔 자동으로 설치가 안 되는 경우가 있다고 함.

그러면 아래와 같이 옵션을 주고 재설치하는 방법이 있음

set COMMANDLINE_ARGS=--xformers --reinstall-xformers





그런데, 이런 설명이 있다.

it speeds up image generation and lowers vram usage at the cost of producing non-deterministic results.

non-deterministic 하다고, 같은 시드로 돌려도 매번 다른 그림이 나온다는데,
혹자는 아주 미세하게 달라지는 수준이라고도 한다.



두번째 옵션인
--xformers-flash-attention
의 경우, 동일 파라미터, 동일 시드에서 동일 결과물을 제공한다는 것인데,
실제로 해보면 그래도 차이가 난다고 함.

모델 1.x 에서는 한계가 있고, 모델 2.x 에서는 더 잘 작동한다는 설명이 있음





그리고, AMD GPU는 xformers가 적용되지 않는다고도 한다.




[바로가기 링크] : http://coolx.net/cboard/develop/831



Name
Password
Comment
Copyright © 1999-2017, swindler. All rights reserved. 367,611 visitor ( 1999.1.8-2004.5.26 ), 2,405,771 ( -2017.01.31)

  2HLAB   2HLAB_Blog   RedToolBox   Omil   Omil_Blog