Разработчик запустил нейросеть Qwen3.5 с 9 млрд параметров на PlayStation 4

Программист Леонардо Алегрия запустил языковую модель Qwen3.5-9B на оригинальной PlayStation 4 образца 2013 года. Его бесплатное приложение Garlic LLM использует графический процессор консоли и работает без внешнего компьютера или подключения к интернету. Нейросеть отвечает на вопросы, пишет код и обрабатывает голосовые запросы. Но есть важное условие, для установки требуется модифицированная PS4 с GoldHEN. На обычной консоли без доступа к homebrew-приложениям воспользоваться проектом не получится.

В распоряжении PS4 всего 8 ГБ общей памяти GDDR5. Алегрия разместил в ней модель с девятью миллиардами параметров, сократив её объём примерно до 4,5 ГиБ. Большинство весов хранится в четырёхбитном формате, самые крупные матрицы сжаты до трёх бит, а контекстное окно ограничено 16 тысячами токенов. Для вычислений разработчик написал собственные ядра под архитектуру AMD GCN и наладил прямую передачу команд через буферы PM4 — без Linux и привычных библиотек машинного обучения.

ПОКУПКА И ДОСТАВКА ИЗ ЕВРОПЫ Игры, консоли и карты оплаты Лично выкупаю физические издания игр, консоли, аксессуары и карты оплаты в Европе с доставкой напрямую к тебе. Связаться

Скорость обычного текстового диалога, по замерам автора, составляет 31–39 токенов в секунду. При генерации программного кода показатель достигает 43 токенов благодаря предварительному предсказанию нескольких токенов. Независимая проверка этих результатов пока не опубликована. Помимо чата Garlic LLM умеет озвучивать ответы на семи языках, включая русский, распознавать речь и запускать программы MicroPython, которые нейросеть написала сама.

Установочный пакет объёмом 5,66 ГБ размещён на Hugging Face; исходный код распространяется через GitHub под лицензией GPLv3. Основные испытания проходили на базовой PS4 и PS4 Slim, а пользователи PS4 Pro также сообщили об успешном запуске. Приложение устанавливается через Package Installer и не требует интернета после установки, языковая и голосовые модели работают локально. Garlic LLM не является продуктом Sony, а GoldHEN и модификация консоли остаются ответственностью пользователя.

Чтобы точно ничего не пропустить, подписывайся на соцсети:

  • YouTube
  • Telegram Канал
  • Instagram
  • Threads
  • Tiktok