Различия
Показаны различия между двумя версиями страницы.
| Следующая версия | Предыдущая версия | ||
| vm:litellm:01-install [2025/09/06 11:39] – создано admin | vm:litellm:01-install [2025/09/06 12:01] (текущий) – admin | ||
|---|---|---|---|
| Строка 54: | Строка 54: | ||
| ===== Настройка DNS алиасов ===== | ===== Настройка DNS алиасов ===== | ||
| - | Создайте следующие DNS записи для | + | Создайте следующие DNS записи для домена |
| ^ Алиас ^ Назначение ^ Описание ^ | ^ Алиас ^ Назначение ^ Описание ^ | ||
| - | | '' | + | | '' |
| - | | '' | + | |
| | '' | | '' | ||
| | '' | | '' | ||
| Строка 72: | Строка 71: | ||
| ===== Установка LiteLLM ===== | ===== Установка LiteLLM ===== | ||
| + | |||
| + | ==== Создание файла переменных окружения ==== | ||
| + | |||
| + | <code bash> | ||
| + | nano .env | ||
| + | </ | ||
| + | |||
| + | <code bash> | ||
| + | # PostgreSQL Database | ||
| + | POSTGRES_PASSWORD=PgSQL_9Kx7mN2vB8qF3wR5tY6uI0oP1aS4dF7gH | ||
| + | |||
| + | # LiteLLM Master Key (главный ключ для API доступа) | ||
| + | LITELLM_MASTER_KEY=sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k | ||
| + | |||
| + | # LiteLLM Salt Key (ключ для шифрования) | ||
| + | LITELLM_SALT_KEY=sk-salt-Q9w2E5r8T1y4U7i0O3p6A9s2D5f8G1h4J7k0L3z6X9c2V5b8N1m | ||
| + | |||
| + | # UI Dashboard Password | ||
| + | UI_PASSWORD=UI_Admin_7mK2qF9xR5tG8nP1wS4vY3bC6eZ0hL9jM | ||
| + | </ | ||
| + | |||
| + | <code bash> | ||
| + | # Установка прав доступа | ||
| + | chmod 600 .env | ||
| + | </ | ||
| ==== Создание docker-compose.yml ==== | ==== Создание docker-compose.yml ==== | ||
| Строка 135: | Строка 159: | ||
| # Настройки UI | # Настройки UI | ||
| UI_USERNAME: | UI_USERNAME: | ||
| - | UI_PASSWORD: | + | UI_PASSWORD: ${UI_PASSWORD} |
| + | |||
| + | # Настройки через переменные окружения | ||
| + | GENERAL_SETTINGS_MASTER_KEY: | ||
| + | GENERAL_SETTINGS_DATABASE_URL: | ||
| + | GENERAL_SETTINGS_UI: | ||
| + | GENERAL_SETTINGS_UI_USERNAME: | ||
| + | GENERAL_SETTINGS_UI_PASSWORD: " | ||
| + | GENERAL_SETTINGS_SET_VERBOSE: | ||
| + | GENERAL_SETTINGS_JSON_LOGS: | ||
| | | ||
| # Логирование | # Логирование | ||
| Строка 168: | Строка 201: | ||
| webproxy: | webproxy: | ||
| external: true | external: true | ||
| - | </ | ||
| - | |||
| - | ==== Создание файла переменных окружения ==== | ||
| - | |||
| - | <code bash> | ||
| - | nano .env | ||
| - | </ | ||
| - | |||
| - | <code bash> | ||
| - | # PostgreSQL | ||
| - | POSTGRES_PASSWORD=GENERATE_STRONG_PASSWORD_HERE | ||
| - | |||
| - | # LiteLLM Keys | ||
| - | LITELLM_MASTER_KEY=sk-litellm-GENERATE_LONG_RANDOM_STRING_HERE | ||
| - | LITELLM_SALT_KEY=sk-salt-GENERATE_ANOTHER_LONG_RANDOM_STRING_HERE | ||
| - | |||
| - | # UI Access | ||
| - | UI_PASSWORD=GENERATE_UI_PASSWORD_HERE | ||
| - | </ | ||
| - | |||
| - | <code bash> | ||
| - | # Установка прав доступа | ||
| - | chmod 600 .env | ||
| </ | </ | ||
| Строка 211: | Строка 221: | ||
| id: test-gpt35-1 | id: test-gpt35-1 | ||
| mode: chat | mode: chat | ||
| - | |||
| - | # Базовые настройки | ||
| - | general_settings: | ||
| - | master_key: ${LITELLM_MASTER_KEY} | ||
| - | database_url: | ||
| - | | ||
| - | # UI | ||
| - | ui: true | ||
| - | ui_username: | ||
| - | ui_password: | ||
| - | | ||
| - | # Логирование | ||
| - | set_verbose: | ||
| - | json_logs: true | ||
| # Настройки логирования | # Настройки логирования | ||
| Строка 261: | Строка 257: | ||
| ==== Создание Proxy Hosts ==== | ==== Создание Proxy Hosts ==== | ||
| - | === 1. Основной API - api.digitizepro.tech === | + | === 1. Основной API + UI - api.digitizepro.tech === |
| * **Domain Names:** '' | * **Domain Names:** '' | ||
| Строка 270: | Строка 266: | ||
| * **SSL:** Request a new SSL Certificate | * **SSL:** Request a new SSL Certificate | ||
| - | === 2. UI Dashboard - ui.digitizepro.tech === | + | === 2. Дополнительные алиасы (опционально) === |
| - | + | ||
| - | * **Domain Names:** '' | + | |
| - | * **Forward Hostname/ | + | |
| - | * **Forward Port:** '' | + | |
| - | * **Block Common Exploits:** ✓ | + | |
| - | * **Websockets Support:** ✓ | + | |
| - | * **SSL:** Request a new SSL Certificate | + | |
| - | + | ||
| - | === 3. Дополнительные алиасы (опционально) === | + | |
| Создайте аналогичные Proxy Hosts для: | Создайте аналогичные Proxy Hosts для: | ||
| Строка 302: | Строка 289: | ||
| curl -X POST https:// | curl -X POST https:// | ||
| -H " | -H " | ||
| - | -H " | + | -H " |
| -d '{ | -d '{ | ||
| " | " | ||
| Строка 314: | Строка 301: | ||
| * **URL:** https:// | * **URL:** https:// | ||
| * **Логин: | * **Логин: | ||
| - | * **Пароль: | + | * **Пароль: |
| ===== Управление системой через веб-интерфейс ===== | ===== Управление системой через веб-интерфейс ===== | ||
| Строка 354: | Строка 341: | ||
| ==== Создание креденшла в n8n ==== | ==== Создание креденшла в n8n ==== | ||
| - | - Перейдите в Settings → Credentials → Add Credential | + | - Перейдите в **Settings** → **Credentials** → **Add Credential** |
| - | - Выберите " | + | - Выберите |
| - Заполните поля: | - Заполните поля: | ||
| < | < | ||
| - | Credential Name: LiteLLM Proxy | + | Credential Name: LiteLLM Proxy digitizepro.tech |
| - | API Key: [ваш LITELLM_MASTER_KEY] | + | API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k |
| Base URL: https:// | Base URL: https:// | ||
| Organization: | Organization: | ||
| + | </ | ||
| + | |||
| + | - Нажмите **" | ||
| + | - При успешном тесте нажмите **" | ||
| + | |||
| + | ==== Дополнительные креденшлы для разных проектов ==== | ||
| + | |||
| + | Создайте несколько креденшлов для различных нужд: | ||
| + | |||
| + | === 1. Основной креденшл === | ||
| + | < | ||
| + | Credential Name: LiteLLM Main - digitizepro.tech | ||
| + | API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k | ||
| + | Base URL: https:// | ||
| + | </ | ||
| + | |||
| + | === 2. AI алиас === | ||
| + | < | ||
| + | Credential Name: LiteLLM AI - digitizepro.tech | ||
| + | API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k | ||
| + | Base URL: https:// | ||
| + | </ | ||
| + | |||
| + | === 3. OpenAI совместимый === | ||
| + | < | ||
| + | Credential Name: LiteLLM OpenAI Compatible - digitizepro.tech | ||
| + | API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k | ||
| + | Base URL: https:// | ||
| </ | </ | ||
| Строка 368: | Строка 383: | ||
| **В OpenAI Chat Model ноде:** | **В OpenAI Chat Model ноде:** | ||
| - | * **Credentials: | + | * **Credentials: |
| * **Model:** выберите модель из созданных в веб-интерфейсе | * **Model:** выберите модель из созданных в веб-интерфейсе | ||
| Строка 378: | Строка 393: | ||
| Headers: | Headers: | ||
| Content-Type: | Content-Type: | ||
| - | Authorization: | + | Authorization: |
| Body: | Body: | ||
| Строка 388: | Строка 403: | ||
| </ | </ | ||
| - | ==== Переключение между проектами | + | ==== Проверка подключения n8n ==== |
| - | Создайте несколько креденшлов для разных | + | - В n8n создайте |
| - | * **LiteLLM Main** - основные ключи | + | - Используйте созданный |
| - | | + | - Отправьте тестовое сообщение |
| - | * **LiteLLM Client** | + | - Проверьте результат в веб-интерфейсе LiteLLM (Logs) |
| ===== Обслуживание и мониторинг ===== | ===== Обслуживание и мониторинг ===== | ||
| Строка 434: | Строка 449: | ||
| ===== Безопасность ===== | ===== Безопасность ===== | ||
| - | ==== Обязательные | + | ==== Статические пароли системы |
| - | - Смените все пароли | + | **Пароли |
| - | - Замените тестовый OpenAI ключ в конфиге на реальный через | + | * **PostgreSQL: |
| - | - Настройте файрвол для ограничения доступа | + | |
| - | - Регулярно обновляйте Docker образы | + | * **UI Пароль:** UI_Admin_7mK2qF9xR5tG8nP1wS4vY3bC6eZ0hL9jM |
| ==== Дополнительные меры ==== | ==== Дополнительные меры ==== | ||
| Строка 460: | Строка 475: | ||
| * **Установка бюджетов** и лимитов для контроля расходов | * **Установка бюджетов** и лимитов для контроля расходов | ||
| * **Единый API** для работы с разными LLM провайдерами | * **Единый API** для работы с разными LLM провайдерами | ||
| + | * **Веб-интерфейс** для управления без редактирования конфигов | ||
| ===== Устранение неисправностей ===== | ===== Устранение неисправностей ===== | ||
| Строка 477: | Строка 493: | ||
| # Проверка Redis | # Проверка Redis | ||
| docker exec litellm_redis redis-cli ping | docker exec litellm_redis redis-cli ping | ||
| + | |||
| + | # Проверка переменных окружения | ||
| + | docker exec litellm_proxy env | grep LITELLM | ||
| </ | </ | ||
| ==== Проблемы с доступом ==== | ==== Проблемы с доступом ==== | ||
| - | - Убедитесь, | + | - Убедитесь, |
| - Проверьте настройки Nginx Proxy Manager | - Проверьте настройки Nginx Proxy Manager | ||
| - Убедитесь, | - Убедитесь, | ||
| - Проверьте SSL сертификаты | - Проверьте SSL сертификаты | ||
| - | ==== Контакты поддержки ==== | + | ==== Проблемы с n8n ==== |
| + | |||
| + | - Убедитесь, | ||
| + | - Проверьте Master Key в креденшле | ||
| + | - Убедитесь, | ||
| + | - Проверьте логи в веб-интерфейсе LiteLLM | ||
| + | |||
| + | ===== Контакты поддержки | ||
| * **GitHub Issues:** https:// | * **GitHub Issues:** https:// | ||
| * **Документация: | * **Документация: | ||
| * **Community: | * **Community: | ||