LMStudio MCP | MCPBro

Что такое LMStudio MCP?

LMStudio MCP — это реализация сервера Model Context Protocol (MCP), разработанная специально для интеграции Claude с локальными языковыми моделями, управляемыми LM Studio. Он предоставляет стандартизированный интерфейс протокола, который позволяет Claude выполнять различные действия, такие как запросы к моделям, генерация завершений и управление состоянием моделей, прямо через вашу локальную инфраструктуру. Такая конфигурация создает мощную гибридную среду, где вы можете объединить сильные стороны Claude с пользовательскими или частными моделями, работающими на вашем оборудовании.

Как настроить LMStudio MCP

Предварительные условия:
- Установите и запустите LM Studio, загрузив и запустив хотя бы одну модель (обычно на порту 1234).
- Убедитесь, что Python 3.7+ доступен, или подготовьте среду Docker.
- У Claude должен быть включен доступ к MCP.

Установка:

Рекомендуется (однострочная установка):

curl -fsSL https://raw.githubusercontent.com/infinitimeless/LMStudio-MCP/main/install.sh | bash

Ручная установка (Python):

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
pip install requests "mcp[cli]" openai

Docker:

docker run -it --network host ghcr.io/infinitimeless/lmstudio-mcp:latest

Docker Compose:

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker-compose up -d

Конфигурация MCP:
- Для Claude добавьте запись конфигурации MCP. Например:
```
{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": ["https://github.com/infinitimeless/LMStudio-MCP"]
  }
}
```
- В качестве альтернативы используйте предоставленные скрипты Docker или Python с соответствующими аргументами команд.
Справка:
- Для более сложного развертывания и устранения неполадок смотрите MCP_CONFIGURATION.md и DOCKER.md.

Как использовать LMStudio MCP

Запустите LM Studio и убедитесь, что ваша желаемая модель загружена на стандартном порту (1234).
Запустите LMStudio MCP с помощью выбранного вами метода установки (локально, Docker и т. д.).
Настройте Claude с MCP с использованием соответствующего фрагмента конфигурации.
Подключитесь через Claude:
- Когда Claude попросит вас подключиться к MCP, выберите сервер LMStudio MCP.
Взаимодействуйте:
- Используйте интерфейс Claude для перечисления моделей, запроса активной модели или генерации завершений с помощью ваших собственных локальных LLM.
Мониторинг и обслуживание:
- Убедитесь, что LM Studio продолжает работу и модели доступны для поддержания непрерывного соединения.

Ключевые особенности

Связь локально-удаленно: Подключите Claude к своим локальным языковым моделям через протокол MCP.
Проверка работоспособности: Быстро проверьте состояние и доступность вашего API LM Studio.
Обнаружение моделей: Перечислите и запросите все модели, доступные в LM Studio, изClaude.
Бесшовная генерация текста: Генерируйте завершения с использованием своих частных моделей, используя интерфейс Claude.
Гибкое развертывание: Несколько вариантов установки и развертывания (Python на голом оборудовании, Docker, Compose, Kubernetes или размещение на GitHub).
Улучшенная конфиденциальность: Никакие данные не отправляются сторонним поставщикам LLM — ваши завершения полностью локальны.
Открытый исходный код и расширяемость: Свободно модифицируйте и вносите свой вклад в проект для нестандартных случаев.

Сценарии использования

Гибридная интеграция LLM: Используйте удобный интерфейс Claude для взаимодействия с пользовательскими или собственными моделями, которые вы запускаете локально, используя сильные стороны обоих.
Безопасные рабочие процессы на месте: Генерируйте завершения и управляйте языковыми моделями в защищенной среде без зависимости от облачных технологий.
Тестирование и оценка: Легко тестируйте, сравнивайте и переключайтесь между различными локальными моделями с минимальными усилиями по перенастройке.
Прототипирование разработки: Позвольте разработчикам автоматизировать, оценивать или прототипировать рабочие процессы агентов, используя как Claude, так и пользовательские модели.

ЧАВО

В1: Почему Claude не может подключиться к моему серверу LM Studio MCP?
A1: Убедитесь, что LM Studio запущен и слушает на стандартном порту (1234), и что модель загружена. Проверьте настройки брандмауэра или сетевые параметры хоста, попробуйте переключить API-URL с "localhost" на "127.0.0.1".

В2: Некоторые модели не отвечают или ведут себя неожиданно — что мне делать?
A2: Некоторые модели могут не полностью поддерживать протокол API, совместимый с OpenAI, необходимый для LMStudio MCP. Попробуйте разные модели или настройте параметры, такие как temperature и max_tokens. Смотрите примечания по совместимости в документации.

В3: Нужен ли доступ в интернет для использования LMStudio MCP?
A3: Только для установки, если вы используете прямую ссылку на GitHub или опции образа Docker. После настройки все взаимодействия с моделями происходят локально, и интернет не нужен для выполнения или завершения модели.

В4: Могу ли я запустить LMStudio MCP внутри контейнера для разработки или производства?
A4: Да, LMStudio MCP предоставляет официальные образы Docker, Docker Compose и манифесты Kubernetes для упрощения изолированных и масштабируемых вариантов развертывания.

Название протокола	Описание
health_check	Выполняет быструю проверку состояния, чтобы убедиться, что конечная точка API LM Studio доступна и работает корректно.
list_models	Получает список всех доступных в данный момент языковых моделей в вашей установке LM Studio.
get_current_model	Возвращает идентификатор или имя языковой модели, которая в данный момент загружена и активна в LM Studio.
chat_completion	Генерирует текстовое завершение с использованием выбранной вами локальной языковой модели, с возможностями для параметров подсказки, системной подсказки, температуры и максимального количества токенов.