export OLLAMA_NUM_THREADS=8
export OLLAMA_CUDA=1
export OLLAMA_MAX_LOADED=2

ollama run mistral:7b