• Эра синтетических звёзд началась: ИИ-актриса Тилли Норвуд уже получает роли и набирает популярность (видео)

    Возможности современных систем генеративного искусственного интеллекта не ограничиваются созданием реалистичных статичных образов людей и коротких роликов, им вполне по силам создание целых виртуальных актёров. Агентство Xicoia утверждает, что порождённая ИИ актриса Тилли Норвуд стремительно набирает популярность как у зрителей, так и ...
    Читать дальше
  • Энтузиасты объединили двенадцать dial-up модемов для просмотра YouTube без тормозов (видео)

    Четверть века назад вряд ли кто-то думал о широкополосном подключении к интернету. Тогда верхом совершенства была работа по коммутируемому каналу на скорости 56 Кбит/с. При этом оставалась возможность параллельного подключения пары модемов и, теоретически, ещё большего их числа. Сегодня сайты и сервисы «потяжелели» настолько, что 100 М...
    Читать дальше
  • Госдума приняла закон против автоматических списаний за онлайн-подписки

    Госдума приняла во втором и третьем чтениях поправки к закону «О защите прав потребителей», запрещающие онлайн-сервисам автоматически списывать деньги за подписки, передаёт ТАСС. Если закон будет принят, он вступит в силу с 1 марта 2026 года.
    Читать дальше
  • Представлены флагманы Xiaomi 17 Pro и Pro Max — в стиле iPhone 17 Pro, но с большим внешним экраном (11 фото)

    Xiaomi официально представила новые флагманские смартфоны Xiaomi 17 Pro и Xiaomi 17 Pro Max, которые оснащены дополнительным внешним дисплеем на тыльной стороне корпуса. Эта особенность позволит пользователям делать селфи с основной камеры, как в смартфонах с гибким дисплеем. Но этим применение внешних экранов не ограничится. В дополне...
    Читать дальше
  • Власти официально объявили о суверенитете интернета в России

    Россия входит в число трёх стран мира, которые обладают полным цифровым суверенитетом, наряду с США и Китаем. Об этом в рамках выступления на Российском интернет-форуме (РИФ-2025) заявил первый заместитель руководителя администрации президента РФ Сергей Кириенко.
    Читать дальше

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

31 декабря 2024 | Просмотров: 7 975 | Новости IT

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.


Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.