vm:litellm:01-install

Различия

Показаны различия между двумя версиями страницы.

Ссылка на это сравнение

Следующая версия
Предыдущая версия
vm:litellm:01-install [2025/09/06 11:39] – создано adminvm:litellm:01-install [2025/09/06 12:01] (текущий) admin
Строка 54: Строка 54:
 ===== Настройка DNS алиасов ===== ===== Настройка DNS алиасов =====
  
-Создайте следующие DNS записи для вашего домена:+Создайте следующие DNS записи для домена digitizepro.tech:
  
 ^ Алиас ^ Назначение ^ Описание ^ ^ Алиас ^ Назначение ^ Описание ^
-| ''api.digitizepro.tech'' | Основной API эндпоинт | Главный точка входа для всех API запросов +| ''api.digitizepro.tech'' | Основной API + UI | Главный эндпоинт для API запросов и веб-интерфейса |
-| ''ui.digitizepro.tech'' | Веб-интерфейс управления | Dashboard для управления ключами и мониторинга |+
 | ''ai.digitizepro.tech'' | Альтернативный API | Короткий алиас для AI сервисов | | ''ai.digitizepro.tech'' | Альтернативный API | Короткий алиас для AI сервисов |
 | ''openai.digitizepro.tech'' | OpenAI совместимый API | Указывает на совместимость с OpenAI API | | ''openai.digitizepro.tech'' | OpenAI совместимый API | Указывает на совместимость с OpenAI API |
Строка 72: Строка 71:
  
 ===== Установка LiteLLM ===== ===== Установка LiteLLM =====
 +
 +==== Создание файла переменных окружения ====
 +
 +<code bash>
 +nano .env
 +</code>
 +
 +<code bash>
 +# PostgreSQL Database
 +POSTGRES_PASSWORD=PgSQL_9Kx7mN2vB8qF3wR5tY6uI0oP1aS4dF7gH
 +
 +# LiteLLM Master Key (главный ключ для API доступа)
 +LITELLM_MASTER_KEY=sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
 +
 +# LiteLLM Salt Key (ключ для шифрования)
 +LITELLM_SALT_KEY=sk-salt-Q9w2E5r8T1y4U7i0O3p6A9s2D5f8G1h4J7k0L3z6X9c2V5b8N1m
 +
 +# UI Dashboard Password
 +UI_PASSWORD=UI_Admin_7mK2qF9xR5tG8nP1wS4vY3bC6eZ0hL9jM
 +</code>
 +
 +<code bash>
 +# Установка прав доступа
 +chmod 600 .env
 +</code>
  
 ==== Создание docker-compose.yml ==== ==== Создание docker-compose.yml ====
Строка 135: Строка 159:
       # Настройки UI       # Настройки UI
       UI_USERNAME: admin       UI_USERNAME: admin
-      UI_PASSWORD: "${UI_PASSWORD}"+      UI_PASSWORD: ${UI_PASSWORD} 
 +       
 +      # Настройки через переменные окружения 
 +      GENERAL_SETTINGS_MASTER_KEY: "${LITELLM_MASTER_KEY}" 
 +      GENERAL_SETTINGS_DATABASE_URL: "postgresql://litellm:${POSTGRES_PASSWORD}@litellm_postgres:5432/litellm" 
 +      GENERAL_SETTINGS_UI: "true" 
 +      GENERAL_SETTINGS_UI_USERNAME: "admin" 
 +      GENERAL_SETTINGS_UI_PASSWORD: "${UI_PASSWORD}
 +      GENERAL_SETTINGS_SET_VERBOSE: "true" 
 +      GENERAL_SETTINGS_JSON_LOGS: "true"
              
       # Логирование       # Логирование
Строка 168: Строка 201:
   webproxy:   webproxy:
     external: true     external: true
-</code> 
- 
-==== Создание файла переменных окружения ==== 
- 
-<code bash> 
-nano .env 
-</code> 
- 
-<code bash> 
-# PostgreSQL 
-POSTGRES_PASSWORD=GENERATE_STRONG_PASSWORD_HERE 
- 
-# LiteLLM Keys 
-LITELLM_MASTER_KEY=sk-litellm-GENERATE_LONG_RANDOM_STRING_HERE 
-LITELLM_SALT_KEY=sk-salt-GENERATE_ANOTHER_LONG_RANDOM_STRING_HERE 
- 
-# UI Access 
-UI_PASSWORD=GENERATE_UI_PASSWORD_HERE 
-</code> 
- 
-<code bash> 
-# Установка прав доступа 
-chmod 600 .env 
 </code> </code>
  
Строка 211: Строка 221:
       id: test-gpt35-1       id: test-gpt35-1
       mode: chat       mode: chat
- 
-# Базовые настройки 
-general_settings: 
-  master_key: ${LITELLM_MASTER_KEY} 
-  database_url: postgresql://litellm:${POSTGRES_PASSWORD}@litellm_postgres:5432/litellm 
-   
-  # UI 
-  ui: true 
-  ui_username: admin 
-  ui_password: ${UI_PASSWORD} 
-   
-  # Логирование 
-  set_verbose: true 
-  json_logs: true 
  
 # Настройки логирования # Настройки логирования
Строка 261: Строка 257:
 ==== Создание Proxy Hosts ==== ==== Создание Proxy Hosts ====
  
-=== 1. Основной API - api.digitizepro.tech ===+=== 1. Основной API + UI - api.digitizepro.tech ===
  
   * **Domain Names:** ''api.digitizepro.tech''   * **Domain Names:** ''api.digitizepro.tech''
Строка 270: Строка 266:
   * **SSL:** Request a new SSL Certificate   * **SSL:** Request a new SSL Certificate
  
-=== 2. UI Dashboard - ui.digitizepro.tech === +=== 2. Дополнительные алиасы (опционально) ===
- +
-  * **Domain Names:** ''ui.digitizepro.tech'' +
-  * **Forward Hostname/IP:** ''litellm_proxy'' +
-  * **Forward Port:** ''4000'' +
-  * **Block Common Exploits:** ✓ +
-  * **Websockets Support:** ✓ +
-  * **SSL:** Request a new SSL Certificate +
- +
-=== 3. Дополнительные алиасы (опционально) ===+
  
 Создайте аналогичные Proxy Hosts для: Создайте аналогичные Proxy Hosts для:
Строка 302: Строка 289:
 curl -X POST https://api.digitizepro.tech/v1/chat/completions \ curl -X POST https://api.digitizepro.tech/v1/chat/completions \
   -H "Content-Type: application/json" \   -H "Content-Type: application/json" \
-  -H "Authorization: Bearer YOUR_MASTER_KEY" \+  -H "Authorization: Bearer sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k" \
   -d '{   -d '{
     "model": "gpt-3.5-turbo",     "model": "gpt-3.5-turbo",
Строка 314: Строка 301:
   * **URL:** https://api.digitizepro.tech/ui или https://ui.digitizepro.tech/ui   * **URL:** https://api.digitizepro.tech/ui или https://ui.digitizepro.tech/ui
   * **Логин:** admin   * **Логин:** admin
-  * **Пароль:** значение из переменной ''UI_PASSWORD''+  * **Пароль:** UI_Admin_7mK2qF9xR5tG8nP1wS4vY3bC6eZ0hL9jM
  
 ===== Управление системой через веб-интерфейс ===== ===== Управление системой через веб-интерфейс =====
Строка 354: Строка 341:
 ==== Создание креденшла в n8n ==== ==== Создание креденшла в n8n ====
  
-  - Перейдите в Settings → Credentials → Add Credential +  - Перейдите в **Settings** → **Credentials** → **Add Credential** 
-  - Выберите "OpenAI"+  - Выберите **"OpenAI"**
   - Заполните поля:   - Заполните поля:
  
 <code> <code>
-Credential Name: LiteLLM Proxy +Credential Name: LiteLLM Proxy digitizepro.tech 
-API Key: [ваш LITELLM_MASTER_KEY]+API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
 Base URL: https://api.digitizepro.tech/v1 Base URL: https://api.digitizepro.tech/v1
 Organization: [оставьте пустым] Organization: [оставьте пустым]
 +</code>
 +
 +  - Нажмите **"Test Connection"**
 +  - При успешном тесте нажмите **"Save"**
 +
 +==== Дополнительные креденшлы для разных проектов ====
 +
 +Создайте несколько креденшлов для различных нужд:
 +
 +=== 1. Основной креденшл ===
 +<code>
 +Credential Name: LiteLLM Main - digitizepro.tech
 +API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
 +Base URL: https://api.digitizepro.tech/v1
 +</code>
 +
 +=== 2. AI алиас ===
 +<code>
 +Credential Name: LiteLLM AI - digitizepro.tech
 +API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
 +Base URL: https://ai.digitizepro.tech/v1
 +</code>
 +
 +=== 3. OpenAI совместимый ===
 +<code>
 +Credential Name: LiteLLM OpenAI Compatible - digitizepro.tech
 +API Key: sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
 +Base URL: https://openai.digitizepro.tech/v1
 </code> </code>
  
Строка 368: Строка 383:
  
 **В OpenAI Chat Model ноде:** **В OpenAI Chat Model ноде:**
-  * **Credentials:** выберите "LiteLLM Proxy"+  * **Credentials:** выберите "LiteLLM Proxy digitizepro.tech"
   * **Model:** выберите модель из созданных в веб-интерфейсе   * **Model:** выберите модель из созданных в веб-интерфейсе
  
Строка 378: Строка 393:
 Headers: Headers:
   Content-Type: application/json   Content-Type: application/json
-  Authorization: Bearer [MASTER_KEY]+  Authorization: Bearer sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k
  
 Body: Body:
Строка 388: Строка 403:
 </code> </code>
  
-==== Переключение между проектами ====+==== Проверка подключения n8n ====
  
-Создайте несколько креденшлов для разных проектов+  - В n8n создайте простой workflow с OpenAI нодой 
-  * **LiteLLM Main** - основные ключи +  - Используйте созданный креденшл 
-  * **LiteLLM Project1** проектные ключи +  - Отправьте тестовое сообщение 
-  * **LiteLLM Client** клиентские ключи+  - Проверьте результат в веб-интерфейсе LiteLLM (Logs)
  
 ===== Обслуживание и мониторинг ===== ===== Обслуживание и мониторинг =====
Строка 434: Строка 449:
 ===== Безопасность ===== ===== Безопасность =====
  
-==== Обязательные изменения ====+==== Статические пароли системы ====
  
-  - Смените все пароли в файле ''.env'' +**Пароли уже настроены в .env файле:** 
-  - Замените тестовый OpenAI ключ в конфиге на реальный через веб-интерфейс +  * **PostgreSQL:** PgSQL_9Kx7mN2vB8qF3wR5tY6uI0oP1aS4dF7gH 
-  - Настройте файрвол для ограничения доступа +  * **LiteLLM Master Key:** sk-litellm-E4j8mK9nP2qR5sT7vX0yZ3bC6eG9hL1oM4rU8wA5dF2gJ7k 
-  - Регулярно обновляйте Docker образы+  * **UI Пароль:** UI_Admin_7mK2qF9xR5tG8nP1wS4vY3bC6eZ0hL9jM
  
 ==== Дополнительные меры ==== ==== Дополнительные меры ====
Строка 460: Строка 475:
   * **Установка бюджетов** и лимитов для контроля расходов   * **Установка бюджетов** и лимитов для контроля расходов
   * **Единый API** для работы с разными LLM провайдерами   * **Единый API** для работы с разными LLM провайдерами
 +  * **Веб-интерфейс** для управления без редактирования конфигов
  
 ===== Устранение неисправностей ===== ===== Устранение неисправностей =====
Строка 477: Строка 493:
 # Проверка Redis # Проверка Redis
 docker exec litellm_redis redis-cli ping docker exec litellm_redis redis-cli ping
 +
 +# Проверка переменных окружения
 +docker exec litellm_proxy env | grep LITELLM
 </code> </code>
  
 ==== Проблемы с доступом ==== ==== Проблемы с доступом ====
  
-  - Убедитесь, что DNS записи настроены правильно+  - Убедитесь, что DNS записи digitizepro.tech настроены правильно
   - Проверьте настройки Nginx Proxy Manager   - Проверьте настройки Nginx Proxy Manager
   - Убедитесь, что контейнеры находятся в сети ''webproxy''   - Убедитесь, что контейнеры находятся в сети ''webproxy''
   - Проверьте SSL сертификаты   - Проверьте SSL сертификаты
  
-==== Контакты поддержки ====+==== Проблемы с n8n ==== 
 + 
 +  - Убедитесь, что используете правильный Base URL 
 +  - Проверьте Master Key в креденшле 
 +  - Убедитесь, что модель существует в LiteLLM 
 +  - Проверьте логи в веб-интерфейсе LiteLLM 
 + 
 +===== Контакты поддержки =====
  
   * **GitHub Issues:** https://github.com/BerriAI/litellm/issues   * **GitHub Issues:** https://github.com/BerriAI/litellm/issues
   * **Документация:** https://docs.litellm.ai/   * **Документация:** https://docs.litellm.ai/
   * **Community:** https://discord.gg/litellm   * **Community:** https://discord.gg/litellm
  • vm/litellm/01-install.1757158790.txt.gz
  • Последнее изменение: 2025/09/06 11:39
  • admin