Nuttige commando's

Hier verzamelen we de meest nuttige en veelvoorkomende commando's voor Hosts

Algemene informatie

In commando's moet je vaak je IP of sleutel of andere informatie invullen. Wees voorzichtig.

Veel informatie is gehaald uit dit Telegram-kanaal: Een geheimpje voor de hele wereldarrow-up-right

Dank je!

Controleren of de sleutels correct zijn geïnstalleerd

Node-installatie

Delisting mlnode

cd /root/gonka/deploy/join docker compose -f docker-compose.yml -f docker-compose.mlnode.yml stop inference mlnode-308

Starten van docker compose

Node-vlaggen

Concept:

--enable-expert-parallel, --kv-cache-dtype fp8, --gpu-memory-utilization 0.94

Voor andere GPU-modellen kunnen er helemaal geen flags/argumenten zijn behalve de standaard --tensor-parallel-size", "4" behalve bij B200, waar vaak aangepaste flags worden gebruikt en er geen eenduidige registratiemethode is; het hangt af van de mogelijkheden van de host.

Overig

Controleren van de lijst met nodes op de Network Node

Controleer of je Validator geregistreerd is

*Vervang door je eigen portemonnee-adres

  1. Geeft een onveilige sleutel weer:

./inferenced keys export KEY-NAME --keyring-backend file --unarmored-hex --unsafe

Voorbeeld:

./inferenced keys export gonka-account-key --keyring-backend file --unarmored-hex --unsafe

Laatst bijgewerkt