• В Китае зажгли «искусственное солнце» на рекордные 17 мин 46 с — оно было в 6,6 раз горячее настоящего Солнца

    20 января 2025 года китайский экспериментальный термоядерный реактор EAST установил новый рекорд по удержанию электронной плазмы. Реакция поддерживалась 1066 секунд, что без малого в три раза дольше предыдущего рекорда. Почти всё это время температура плазмы была в районе 100 млн °C, что в шесть раз больше, чем в ядре нашей звезды. Недавн...
    Читать дальше
  • Швеция построит хранилище для ядерных отходов, которого хватит на 100 000 лет (2 фото)

    Швеция начала строительство постоянного хранилища для отработанного ядерного топлива, рассчитанного на 100 000 лет. Это второй подобный объект в мире после финского. Хранилище будет расположено в Форсмарке, в 150 километрах к северу от Стокгольма.
    Читать дальше
  • США и ЕC сняли с России обвинения в саботаже подводных кабелей в Балтийском море (2 фото)

    Службы безопасности США и Европы пришли к выводу, что причиной повреждения подводных энергетических и коммуникационных линий в Балтийском море стали несчастные случаи. По словам нескольких представителей разведки США и Европы, разрывы подводных кабелей, которые в последние месяцы беспокоили европейских сотрудников служб безопасности, скор...
    Читать дальше
  • «Хаббл» создал самое детальное изображение галактики Андромеда — на 2500-Мп снимок ушло 10 лет

    Завершено создание самого детального панорамного изображения галактики Андромеда, на что ушло десять лет наблюдений по двум программным обзорам. Составной снимок разрешением 2,5 млрд пикселей — это своего рода взгляд со стороны на нашу галактику Млечный Путь. Нам изнутри невозможно оценить все галактические особенности нашего звёздного до...
    Читать дальше
  • Xiaomi представила WinPlay — эмулятор для запуска игр для Windows на планшете с Android (2 фото)

    Xiaomi значительно расширила возможности для запуска игр на планшетах — китайская компания представила системную функцию WinPlay, обеспечивающую запуск игр для Windows на планшетах с Hyper OS, которая, в свою очередь, основана на Android.
    Читать дальше

Энтузиасты запустили современную ИИ-модель Llama на древнем ПК с Pentium II и Windows 98

31 декабря 2024 | Просмотров: 6 550 | Новости IT

Специалисты из EXO Labs сумели запустить довольно мощную большую языковую модель (LLM) Llama на 26-летнем компьютере, работающем под управлением операционной системы Windows 98. Исследователи наглядно показали, как загружается старый ПК, оснащённый процессором Intel Pentium II с рабочей частотой 350 МГц и 128 Мбайт оперативной памяти, после чего осуществляется запуск нейросети и дальнейшее взаимодействие с ней.

Для запуска LLM специалисты EXO Labs задействовали собственный интерфейс вывода для алгоритма Llama98.c, который создан на базе движка Llama2.c, написанного на языке программирования C бывшим сотрудником OpenAI и Tesla Андреем Карпатым (Andrej Karpathy). После загрузки алгоритма его попросили создать историю о Сонном Джо. Удивительно, но ИИ-модель действительно работает даже на таком древнем ПК, причём история пишется с хорошей скоростью.

Загадочная организация EXO Labs, сформированная исследователями и инженерами из Оксфордского университета, вышла из тени в сентябре этого года. Согласно имеющимся данным, она выступает за открытость и доступность технологий на базе искусственного интеллекта. Представители организации считают, что передовые ИИ-технологии не должны находиться в руках горстки корпораций, как это происходят сейчас. В дальнейшем они рассчитывают «построить открытую инфраструктуру для обучения передовых ИИ-моделей, что позволит любому человеку запускать их где угодно». Демонстрация возможности запуска LLM на древнем ПК, по их мнению, доказывает то, что ИИ-алгоритмы могут работать практически на любых устройствах.

В своём блоге энтузиасты рассказали, что для реализации поставленной задачи на eBay был приобретён старый ПК с Windows 98. Затем, подключив устройство в сеть с помощью разъёма Ethernet, они через FTP сумели передать в память устройства нужные данные. Вероятно, компиляция современного кода для Windows 98 оказалась более сложной задачей, решить которую помогла опубликованная на GitHub работа Андрея Карпатого. В конечном счёте удалось добиться скорости генерации текста в 35,9 токенов в секунду при использовании LLM размером 260K с архитектурой Llama, что весьма неплохо, учитывая скромные вычислительные возможности устройства.


Написать комментарий

  • bowtiesmilelaughingblushsmileyrelaxedsmirk
    heart_eyeskissing_heartkissing_closed_eyesflushedrelievedsatisfiedgrin
    winkstuck_out_tongue_winking_eyestuck_out_tongue_closed_eyesgrinningkissingstuck_out_tonguesleeping
    worriedfrowninganguishedopen_mouthgrimacingconfusedhushed
    expressionlessunamusedsweat_smilesweatdisappointed_relievedwearypensive
    disappointedconfoundedfearfulcold_sweatperseverecrysob
    joyastonishedscreamtired_faceangryragetriumph
    sleepyyummasksunglassesdizzy_faceimpsmiling_imp
    neutral_faceno_mouthinnocent

Кликните на изображение чтобы обновить код, если он неразборчив

Комментарии: 0

В Вашем браузере отключен JavaScript. Для корректной работы сайта настоятельно рекомендуется его включить.