Полезные команды

Тут мы соберем самые полезные и частые команды для Хостов

Общая информация

В командах часто нужно подставлять ваш IP или ключ или еще какую-то информацию. Будьте внимательны.

Много информации взято из этого ТГ Канала: По секрету всему светуarrow-up-right

Спасибо!

Проверка правильности установки ключей

Установка ноды

Делистинг mlnode

cd /root/gonka/deploy/join docker compose -f docker-compose.yml -f docker-compose.mlnode.yml stop inference mlnode-308

Запуск докер компоузер

Флаги ноды

Черновик:

--enable-expert-parallel, --kv-cache-dtype fp8, --gpu-memory-utilization 0.94

Для других моделей GPU, там вообще могут не быть никаких флагов/аргументов, кроме стандартного --tensor-parallel-size", "4" кроме B200, там зачастую используют кастомные флаги и нет единого варианта регистрации, зависит от возможностей хоста.

Прочее

Проверка списка нод на Нетворк Ноде

Проверьте, зарегистрирован ли ваш Валидатор

*Подставьте свой адрес кошелька

  1. Выводит какой-то ключ небезопасный:

./inferenced keys export KEY-NAME --keyring-backend file --unarmored-hex --unsafe

Пример:

./inferenced keys export gonka-account-key --keyring-backend file --unarmored-hex --unsafe

Ссылки

Последнее обновление