tuna и Ollama

Шаг 1. Скачайте клиент

Инструкция доступна на странице.

Шаг 2. Запустите Ollama

Инструкцию по установке можно найти в официальной документации.

Шаг 3. Запустите tuna

Ollama использует порт 11434 по умолчанию:

tuna http 11434 --request-header="host:localhost:11434"

Обратите внимание, что API будет доступен всем, если потребуется ограничить доступ, есть несколько способов:

• защита базовой аутентификацией
• защита API токеном
• политики трафика

Пример защиты базовой аутентификацией может выглядеть так:

tuna http 11434 --request-header="host:localhost:11434" --basic-auth="login:password"

Все запросы, без передачи корректных реквизитов, будут получать 401 ошибку.