CUDA 맛보기

AI를 써볼일이 생겼다.
프롬프트로 짧막한 영상을 만드는 것이다.

정말 많은 서비스가 있었다.
외부 서비스를 돈내고 쓸정도로 필요한 것은 아니었다.
그래서 오픈소스로 해보기로 했다.

그 중 pyramid-flow 를 사용해봤다.
회사 M4 맥미니로 해봤는데, 메모리 사용량이 20GB를 넘어가는 것을 보고 포기했다.
mps를 써서 가속화할 수 있다고 해서 해봤는데, 잘 안되었다.
(구글링이 미숙한 것 같다.)

맥북으로도 시도 했는데, 실패했다. 메모리가 더 큰 모델이었는데 35GB를 넘어가는 것을 보고 포기했다.
얼마나 걸릴지도 모르는 것이 컸다.

결국 집에 있는 게이밍 PC로 테스트를 했다.
다행히(?) 그럭저럭 쓸만한 RTX 3070 이 있어서, 실험해볼 수 있었다.
GPU MEM은 8GB밖에 안되지만.

역시 안되었지만, cuda를 쓰는 과정에서 안되는 것이었다.
pyramid-flow가 최근 cuda + torch 를 지원하지 않는 것 같았다.
다행히 github issue에 이슈를 우회할 수 있는 코드가 있었고, 패치해서 해결했다.

그렇게 나온 결과물을 보니, 꽤 만족스러웠다.
과정을 곱씹어 봤는데, 이정도로 문외한인 분야가 있었나 싶다.
정말 구글링 키워드 조차 잘 못잡아서, 무의미한 검색을 얼마나 했는지 모른다.
그래도 해결했으니 다행이긴 하지만..

그렇게 결과는 봤으나, GPU가 변수라서 어떻게 활용할지는 고민이다.
뭐.. 일단 재미는 있었다.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다