Ставим SD web UI на Linux
Давно витала в голове мысль вынести эксперименты с нейросетями на отдельный компьютер, и тут подвернулась редкая удача. Попал мне в руки интересный девайс, а именно Nvidia Tesla A2 аж на 16 гб видео памяти.
Значит хватит отлынивать, тем более привалили майские выходные, короче «нейросерверу» быть! А для повседневных задач собрать компактный, тихий системничек в microATX формате. Но, это потом…
Так как это всё-таки сервер нужна серверная ОС. Качаем Ubuntu 24.04
Ставим.
Подробно на этом останавливаться не буду, сейчас установка Linux проста до безобразия, отмечу только два момента. Ставил в минималке и под /home примонтирован отдельный, быстрый ssd - > за подробной инструкцией в интернет, там есть.
Далее, далее, далее... Готово.
Подключаемся по SSH
Дабы протестировать карточку установим Stable Diffusion WebUI от AUTOMATIC1111
Здесь начинается полезное для общественности. Поехали!
Обновляемся
sudo apt update
sudo apt upgrade
Устанавливаем необходимое
sudo apt install git bc google-perftools screen nano
Ставим драйвер Nvidia
sudo apt install libnvidia-common-535 libnvidia-gl-535 nvidia-driver-535
Ребутимся
sudo reboot
Проверяем GPU
nvidia-smi
Есть контакт
Для корректной работы SD нам потребуется Python версии 3.10 (на момент написания)
Ставим пакет пакетов: sudo apt install build-essential gdb lcov pkg-config libbz2-dev libffi-dev libgdbm-dev liblzma-dev libncurses5-dev libreadline6-dev libsqlite3-dev libssl-dev lzma lzma-dev tk-dev uuid-dev zlib1g-dev libgdbm-compat-dev (это список пакетов, вводится в одну строку)
Идем на python.org и ищем что у них есть из свежих тридесятых питонов, ага! Есть 3.10.14 Копируем ссылку возвращаемся в консоль
Скачиваем
Распаковываем
tar -xzf Python-3.10.14.tgz
Заходим в директорию
cd Python-3.10.14
Собираем интерпретатор в .local пользователя, займет какое то время (разверните консоль во весь экран и почувствуйте себя кулхацкером)
./configure --prefix=$HOME/.local --enable-optimizations
make -j4
make install
Возвращаемся в папку пользователя
cd ~
Проверяем все ли хорошо
~/.local/bin/python3.10 --version
~/.local/bin/pip3.10 --version
Всё норм
Скачиваем WebUI
Переходим в созданную директорию
cd stable-diffusion-webui
Создаём окружение Python
~/.local/bin/python3.10 -m venv venv
Запускаем
./webui.sh
Ждём загрузки библиотек и базовых моделей и вуаля!
Работает
Осталось продумать систему охлаждения и подобрать параметры
Моя доволен!