Utilizar Ollama con Github Copilot en VS Code

Tiempo de lectura: 2 minutos

Hoy os voy a explicar cómo se puede utilizar Ollama de custom provider para Github Copilot.

Lo primero que tenemos que tener es Github Copilot instalado en nuestro VS code

Y tambíen Ollama instalado (recomiendo en remoto).

Una vez listo todos los servicios necesarios, pasamos a la acción.

Abrimos VS Code y abrimos la extensión Github Copilot.

Pulsamos en seleccionar modelo (Pone Auto o el modelo actual seleccionado), aparece debajo del chat.

Dentro de Otros Modelos pulsamos en ajustes:

Ahora en Agregar Modelos > Custom Endpoint

Y ahora rellenamos lo que solicita y este JSON:

"models": [
			{
				"id": "",
				"name": "",
				"url": "",
				"toolCalling": true,
				"vision": true,
				"maxInputTokens": 128000,
				"maxOutputTokens": 16000
			}
		]
	}

Pedirá nombre y luego una api key, la api key de ollama es:

ollama

Para la URL ponemos baseURl + /chat/completions:

https://nuestro_dominio_ollama.com/v1/chat/completions

O si es en local:

http://localhost:11434/v1/chat/completions

Para ver los modelos que tenemos instalados:

https://nuestro_dominio_ollama.com/api/tags