xformers를 사용하면 속도가 빨라지고, 메모리 사용량도 줄어든다고 한다.

webui-user.bat에 아래와 같이 추가하면 된다.

set COMMANDLINE_ARGS= --xformers --xformers-flash-attention



처음에 실행하면 자동으로 설치를 하는데,
가끔 자동으로 설치가 안 되는 경우가 있다고 함.

그러면 아래와 같이 옵션을 주고 재설치하는 방법이 있음

set COMMANDLINE_ARGS=--xformers --reinstall-xformers





그런데, 이런 설명이 있다.

it speeds up image generation and lowers vram usage at the cost of producing non-deterministic results.

non-deterministic 하다고, 같은 시드로 돌려도 매번 다른 그림이 나온다는데,
혹자는 아주 미세하게 달라지는 수준이라고도 한다.



두번째 옵션인
--xformers-flash-attention
의 경우, 동일 파라미터, 동일 시드에서 동일 결과물을 제공한다는 것인데,
실제로 해보면 그래도 차이가 난다고 함.

모델 1.x 에서는 한계가 있고, 모델 2.x 에서는 더 잘 작동한다는 설명이 있음





그리고, AMD GPU는 xformers가 적용되지 않는다고도 한다.