Как установить нейросеть huihui.ai: пошаговая инструкция

Полный гид по установке Huihui.ai: как запустить нейросеть без цензуры на своем компьютере

За последние месяцы огромную популярность в сети завоевал проект Huihui.ai — линейка языковых моделей с полностью удаленными встроенными ограничениями (так называемая «аблитерация»). Разработчики очистили популярные открытые архитектуры от цензуры и этических предохранителей, позволив пользователям запускать их локально.

Если вы хотите опробовать эту модель у себя на ПК, в этом материале собрана подробная и понятная инструкция по установке.

Что понадобится для запуска?

Поскольку модели распространяются для локального использования, к вашему железу предъявляются базовые требования:

• Оперативная память (RAM) / Видеопамять (VRAM): Минимум 8–16 ГБ свободного пространства (в зависимости от конкретного веса и размера модели — например, вариантов на 8B–12B параметров).
• Операционная система: Windows 10/11, macOS или Linux.
• Свободное место на диске: От 10 до 20 ГБ для файлов моделей.

Существует два самых удобных способа установки: через консольную утилиту Ollama (быстро и легко) или через графический интерфейс LM Studio (напоминает привычный ChatGPT).

Способ 1. Установка через Ollama (Самый быстрый путь)

Этот вариант идеально подходит, если вы любите минимализм и хотите запустить модель прямо в терминале.

1. Скачайте и установите Ollama:
   • Перейдите на официальный сайт Ollama.
   • Загрузите установщик для вашей ОС (Windows, macOS или Linux) и запустите его. Следуйте простым инструкциям на экране.
2. Откройте терминал:
   • На Windows: нажмите комбинацию Win + R, введите cmd или откройте PowerShell.
   • На macOS / Linux: откройте стандартное приложение «Терминал».
3. Запустите модель командой:
   • Введите команду для загрузки нужной сборки модели (актуальные теги можно посмотреть в репозиториях сообщества или на Hugging Face):

     ollama run huihui_ai/deepseek-r1-abliterated:8b
     

   • Примечание: Название тега может отличаться в зависимости от базовой модели (например, варианты на базе Qwen или DeepSeek).
4. Ollama автоматически скачает веса (GGUF-файлы) и сразу откроет интерактивный чат прямо в окне командной строки.

Способ 2. Установка через LM Studio (С красивым интерфейсом)

Если возиться с терминалом не хочется, а нужен привычный графический интерфейс с историей чатов, используйте LM Studio.

1. Скачайте LM Studio:
   • Зайдите на официальный сайт LM Studio и скачайте версию для вашей системы. Установите программу.
2. Найдите модель Huihui.ai:
   • Запустите приложение.
   • В верхней поисковой строке введите запрос huihui-ai или найдите нужную модель напрямую через интеграцию с репозиториями Hugging Face.
3. Скачайте и запустите:
   • Выберите подходящий по объему файл (рекомендуется формат GGUF, подходящий под объем вашей видеопамяти).
   • После завершения загрузки перейдите во вкладку чата (значок знака препинания / чата на панели слева), выберите скачанную модель в выпадающем списке сверху и начните диалог.

Важное предупреждение: Модели линейки Huihui.ai созданы энтузиастами как эксперимент по полной свободе генерации текста. Авторы снимают с себя ответственность за любые результаты работы нейросети, поэтому подходите к ее использованию осознанно и учитывайте возможные особенности в логике или генерации контента.