Энтузиаст запустил Llama 2 на старой консоли Xbox 360

Пользователь X Андрей Дэвид смог запустить на Xbox 360 ИИ-модель, основанную на Llama2.c, движке, созданном Андреем Карпатым. Его вдохновил пример EXO Lab, запустивших Llama на старом компьютере с Windows 98.

Хотя Дэвид использовал тот же движок, что и EXO Lab, ему пришлось адаптировать код под процессор Xbox 360 (PowerPC). Процессоры PowerPC и Intel Pentium II (использовавшийся в старом ПК) по-разному работают с байтами, поэтому Дэвиду пришлось добавить систему обмена байтами и правильно настроить выравнивание данных в памяти (128 байт) – это требование Xbox 360.

В итоге, ИИ-модель заработала на Xbox 360 с процессором Xenon (PowerPC, 3 ядра, 3,2 ГГц) и 512 МБ ОЗУ. Это значительный успех – запустить большую языковую модель Llama 2 на таком старом устройстве.

Однако, один из пользователей X предположил, что 512 МБ ОЗУ Xbox 360 хватит и для других, более легких моделей ИИ, например, SmolLm или 4-битной Qwen2.5. Дэвид, в ответ на это, написал «Вызов принят», намекая на свои планы по запуску и других ИИ-моделей на Xbox 360 в будущем.

Ранее ITinfo сообщало, что новый язык программирования «Тривиль» был разработан за 38 дней.