4060Ti 16G显卡安装谷歌开源大模型Gemma-7B

下载镜像并启动服务：docker run -d --name gemma --gpus all -p 8080:8080 -e OLLAMA_API_BASE_URL=
http://127.0.0.1:11434/api bucess/gemma:7b停止服务：docker stop gemma启动服务：docker start gemma