Подробный ответ
В этом ответе
Как ИИ работает без сети
Обычный ИИ-чат отправляет вопрос на сервер, где работает модель, и получает ответ обратно по сети. Без связи такой чат молчит.
Локальный ИИ хранит на телефоне, а ответ считает его процессор. Связь нужна, чтобы скачать модель, — но не чтобы с ней разговаривать. Тот же принцип работает и на компьютере — там больше памяти, поэтому можно запускать модели крупнее.
Что для этого нужно телефону
Размер файла зависит от модели — от сотен мегабайт до нескольких гигабайт. Чем больше модель, тем требовательнее она к памяти и батарее. Чтобы модели помещались в телефон, их сжимают — это называется квантованием.
Держит файл модели между запусками.
Нужна во время ответа.
Локальные вычисления расходуют батарею.
Проверь свой телефон
Потянет ли он локальную модель?
Подойдут компактные модели и часть моделей среднего размера.
Установить через TestFlightОбщие ориентиры по памяти, а не проверенная таблица совместимости. Точная совместимость зависит от устройства, модели и свободной памяти.
Что работает офлайн, а что нет
Без сети работает только то, что выполняется на самом устройстве. Внешние функции подключаются отдельно: наличие сети не включает их автоматически.
Попробуй: переключи сеть
- Диалог с локальной модельюМодель на телефонеРаботает
- Загрузка и обновление моделиФайл скачивается из сетиНужна сеть
- Веб-поискПодключается отдельноНужна сеть
- Облачные моделиРаботают на сервереНужна сеть
- Внешняя озвучкаПодключается отдельноНужна сеть
В авиарежиме остаётся главное — разговор с моделью.
Сводная таблица
| Функция | Без сети | Комментарий |
|---|---|---|
| Диалог с локальной моделью | Да | После установки модели |
| Загрузка и обновление модели | Нет | Нужно подключение |
| Веб-поиск | Нет | Подключается отдельно |
| Облачные модели | Нет | Работают через сервер |
| Внешняя озвучка | Нет | Подключается отдельно |
Проверь за минуту
Отмечай шаги по ходу — это займёт меньше минуты.
Отмечено 0 из 4
Ограничения
Телефон слабее сервера, поэтому локальные модели меньше облачных и иногда отвечают проще. Длинные диалоги расходуют заряд. Без веб-поиска модель не знает о событиях после своего обучения.
Ещё вопросы по теме
Нужен ли аккаунт для локального ИИ?
В RYLIS — нет: для локального диалога не нужно регистрироваться и представляться.
Сколько места занимает модель?
От сотен мегабайт до нескольких гигабайт — зависит от модели.
Это работает на Android?
Да, бета-версия RYLIS есть для iPhone и Android. Совместимость зависит от устройства.
Знает ли локальная модель свежие новости?
Нет. Модель знает то, чему её обучили; свежие события — только через веб-поиск.
Можно ли так же запустить ИИ на компьютере?
Да. На компьютере больше памяти, поэтому там запускают и модели покрупнее — например, с помощью открытых инструментов вроде llama.cpp или Ollama.
Какие модели работают локально?
Чаще всего — открытые: их веса опубликованы, поэтому модель можно скачать и запустить на своём устройстве.