TRITON 설치 문제 해결
-
0회 연결
-
0회 연결
본문
정말 어려운 문제이다. 갖가지 방법을 모두 사용하였지만, 쉽지 않은 문제였다.
먼저, CUDA Version과 Python Version 확인이 제일 중요하다.
나의 경우 CUDA version확인 명령어 nvcc --version확인한 결과
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Wed_Oct_30_01:18:48_Pacific_Daylight_Time_2024
Cuda compilation tools, release 12.6, V12.6.85
Build cuda_12.6.r12.6/compiler.35059454_0
그리고 TRITON 설치되어 있다면 버젼확인 pip show triton
Name: triton
Version: 3.0.0
Summary: A language and compiler for custom Deep Learning operations
Home-page: https://github.com/triton-lang/triton/
Author: Philippe Tillet
Author-email: phil@openai.com
License:
Location: g:\ai\stabilitymatrix\data\packages\comfyui\venv\lib\site-packages
Requires: filelock
Required-by:
모든 정보를 취합하면 CUDA는 12.6 / Triton은 3.0 이다.
cuda12.6 + triton 3.0 + xformers 12.4버젼 으로 문제를 해결하였다.
즉, 서로간의 버젼 호환 문제가 근원적 문제였다.
##설치 경로 comfyui/venv/script
##기존 triton 설치 삭제
pip uninstall -y triton
## 설치 whl 받기 https://github.com/woct0rdho/triton-windows/releases/tag/v3.1.0-windows.post5
## python 3.10.xx 버젼
triton-3.0.0-cp310-cp310-win_amd64.whl
##설치 triton - windows whl
pip install triton-3.0.0-cp310-cp310-win_amd64.whl
##xformers cuda 12.4버젼으로 설치
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu124
##SageAttn 설치 명령어
pip install sageattention --force-reinstall
xformers 설치는 cuda 12.6으로 진행할 경우 오류가 발생하였다. 자신의 버젼과 상황에 맞춰서 설치하면 될 듯하다. xformers 설치 방법은 게시판 xformers 설치법을 참고하면 된다.
댓글목록 0