LM Studio: локальные модели с сервером в один клик

Приложение, в котором открытая модель скачивается парой кликов, работает полностью на своём компьютере и тут же превращается в локальный сервер, к которому можно подключить стороннюю программу, как к обычному облачному API.

Что это такое

LM Studio - платформа для запуска открытых языковых моделей прямо на своём устройстве. В отличие от облачных чатов, вся обработка идёт локально: модель скачивается один раз и дальше работает без подключения к интернету и без отправки запросов на сторонние серверы. Приложение бесплатное, доступно для Windows и macOS.

Внутри - встроенный браузер моделей: открытые модели вроде GLM, Kimi K3 или DeepSeek скачиваются прямо из приложения, без поиска файлов по сторонним сайтам. Под капотом работает собственный runtime LM Studio на основе MLX и llama.cpp - это определяет, какие модели и с каким ускорением (в том числе на GPU) можно запустить на конкретном железе.

Локальный сервер: OpenAI- и Anthropic-совместимые эндпоинты

Главная практическая особенность LM Studio для тех, кто уже пишет код или настраивает интеграции, - встроенный локальный сервер. Он поднимается во вкладке Developer: выбираете модель в списке, жмёте Start Server - и приложение начинает принимать запросы как обычный API.

Сервер поддерживает сразу несколько форматов запросов: собственный REST API, OpenAI-совместимые эндпоинты и Anthropic-совместимые эндпоинты. По умолчанию сервер слушает на localhost:1234. Это значит, что любой клиент, который умеет указывать свой адрес сервера - SDK для Python или Node.js, LangChain, curl или собственный код, - можно направить на локальный адрес вместо облачного, поменяв только базовый URL, без ключа API.

Как подключить к сторонней программе

Если библиотека или инструмент принимает параметр вроде base_url или baseURL, достаточно указать адрес локального сервера:

пример

base_url = "http://localhost:1234/v1"

Дальше запросы уходят не в облако, а на модель, которая работает на этом же компьютере. Так локальную модель можно подключить к инструментам, изначально рассчитанным на облачный API, - без переписывания логики самого инструмента.

Доступ из локальной сети

По умолчанию сервер принимает запросы только с того же компьютера. Чтобы сделать его доступным для других устройств в локальной сети - например, чтобы к модели на мощном настольном компьютере обращался ноутбук, - адрес привязки в настройках сервера меняется с 127.0.0.1 на 0.0.0.0. После этого сервер принимает соединения от любого устройства, которое видит хост-машину в сети.

Приватность и голосовая транскрипция

Приватность заявлена как одна из ключевых идей LM Studio: для облачных функций (там, где они всё же используются) декларируется политика нулевого хранения данных. Основная же работа - с открытыми моделями - обрабатывается полностью на устройстве.

Отдельная функция - голосовая транскрипция в реальном времени: аудио обрабатывается локально и не покидает устройство. Это отличает её от большинства облачных сервисов распознавания речи, где запись обязательно уходит на сторонний сервер.

Чем это отличается от Ollama

И LM Studio, и Ollama решают одну и ту же задачу - запуск открытых моделей на своём железе, - но с разным подходом. Ollama делает акцент на командной строке: минимальная установка, управление моделями через терминал, простой API для интеграций. LM Studio добавляет полноценный графический интерфейс: браузер моделей с поиском и описаниями, наглядные настройки сервера, встроенную голосовую транскрипцию и агентские сценарии вроде автоматизации задач и работы с документами. Выбор между ними - вопрос предпочтения между терминалом и интерфейсом с кнопками, а не принципиальной разницы в возможностях.

Чек-лист

Приложение скачано с официального сайта под свою ОС
Модель выбрана и загружена через встроенный браузер моделей
Во вкладке Developer запущен сервер (Start Server)
Проверен адрес localhost:1234 и формат эндпоинта (OpenAI или Anthropic-совместимый)
Для доступа с других устройств адрес привязки изменён на 0.0.0.0

Нужна ли мощная видеокарта для LM Studio?

Она ускоряет работу, но не обязательна - приложение подбирает поддерживаемые модели под доступное железо, включая запуск на процессоре. Чем мощнее видеокарта и больше видеопамяти, тем более крупные модели можно запускать с приемлемой скоростью.

Нужен ли API-ключ для локального сервера?

Нет, запросы к локальному серверу на localhost не требуют ключа - авторизация нужна только если явно настроить её самостоятельно для доступа извне.

Можно ли использовать LM Studio вместо облачного Claude или ChatGPT?

Для задач, которые не требуют самых мощных моделей и допускают ограничения открытых моделей, - да. Anthropic- и OpenAI-совместимые эндпоинты позволяют направить на локальную модель инструменты, изначально настроенные под облачный API, но качество ответов будет зависеть от конкретной открытой модели, а не от Claude или ChatGPT.

Безопасно ли открывать сервер для локальной сети?

Открытие адреса 0.0.0.0 делает сервер доступным любому устройству, которое видит хост-машину в сети, - без ключа API это означает, что любой в той же сети сможет отправлять запросы. Для домашней сети риск обычно невысокий, но в общей или рабочей сети стоит дополнительно ограничить доступ на уровне сетевых настроек.

Чем Anthropic-совместимый эндпоинт отличается от OpenAI-совместимого?

Оба формата описывают, в каком виде клиент отправляет запрос и получает ответ. Anthropic-совместимый эндпоинт удобен, если инструмент изначально написан под API Claude, - его можно направить на локальную модель, не переписывая логику под другой формат запроса.

Работает ли LM Studio без интернета?

После того как модель скачана, сама генерация ответов не требует подключения к интернету - интернет нужен только для загрузки новых моделей и обновлений самого приложения.

Источники

← Все статьи блога