🚀 LLama2 на Commodore C64 🖥: модель искусственного интеллекта 🧠? Да, это правда! 🔥

Инновационная реализация Llama2 на Commodore C64 Llama2.c64 — это амбициозный проект, который переносит возможности модели Llama2 на классический Commodore C64, используя расширение памяти REU объемом не менее 2 МБ. Созданное Мацеем «YTM/Elysium» Витковяком совместно с oscar64, программное обеспечение позволяет запускать модель tinystories объемом 260 КБ, адаптированную для легендарного 8-битного оборудования. 🔍 Функциональность Llama2.c64 не является разговорной моделью, но работает путем генерации коротких историй, имитируя творчество 3-летнего ребенка. Начиная с текстовой подсказки, система продолжает повествование, используя свой ограниченный словарный запас и способность строить простые предложения. 🛠 Установка и запуск Эмулятор VICE: Включите REU с объемом памяти не менее 2 МБ Загрузите образ REU weights.reu Запустите программу с помощью команды: x64sc -warp -reu -reusize 2048 -reuimage weights.reu llama2c64.prg Картридж Ultimate II+: Включите REU с объемом памяти не менее 2 МБ Загрузите файл weights.reu в REU Запустите llama2exo.prg или llama2c64.prg 🏗 Компиляция и тестирование Проект включает Makefile для упрощения сборки и тестирования. Основные доступные команды: make build - Компилирует код с оптимизацией -O2 make test - Запускает программу в VICE с правильными настройками REU make clean - Удаляет скомпилированные файлы и сгенерированные модели make test - Компилирует и запускает программу за одну операцию 🚀 Ключевые особенности ✔ Низкое энергопотребление ✔ Гарантированная конфиденциальность локальной обработки ✔ Не требуется продвинутый графический процессор ✔ Совместимость с C64 и REU ⚠ Ограничения ❌ Требуется минимум 2 МБ REU ❌ Низкая скорость (один токен генерируется каждые 8 ​​минут) ❌ Не может обрабатывать модели размером более 8 МБ 🔬 Технические характеристики В проекте используется модель TinyLlamas, основанная на наборе данных TinyStories, предназначенная для генерации простых и понятных предложений. Конфигурация включает в себя: Токенизатор и веса модели, обработанные с помощью generate-model-files.py Преобразование данных и оптимизированные структуры для архитектуры C64 Математическая оптимизация (функции my_sin, my_cos и my_exp) для обеспечения точности 🎭 Часто задаваемые вопросы Могу ли я общаться с моделью в чате? ❌ Нет, она предназначена только для генерации коротких рассказов, а не для динамического ответа. Насколько она быстрая? ⏳ Очень медленная: один токен каждые 8 ​​минут. Скорость постепенно снижается. Есть ли возможности для оптимизации? 🛠 Возможны некоторые улучшения, но основным узким местом являются матричные вычисления. Llama2.c64 — это необычный проект, демонстрирующий, как искусственный интеллект может быть адаптирован даже к 40-летней архитектуре. Невероятный эксперимент по ретро-вычислениям! Llama2.C64 [2025] :: ссылка: https://csdb.dk/release/?id=252325 GitHUB ytmytm llama2.c64 :: ссылка: https://github.com/ytmytm/llama2.c64 Разъяснение модели трансформера :: ссылка:   / demystifying-the-transformer-model   Компилятор Oscar64 C :: ссылка: https://github.com/drmortalwombat/osc... llama2 :: ссылка: https://github.com/karpathy/llama2.c tinyllamas :: ссылка :: https://huggingface.co/karpathy/tinyl... #Llama2C64 #AI #RetroComputing #Commodore64 #TechRevolution #OldSchoolAI