Запуск локальных LLM на Raspberry Pi 5 с помощью Ollama

Мой любимый инструмент для локального LLM-тестирования, Ollama, прост в настройке и работает на Raspberry Pi 5. Я протестировал его и сравнил с результатами более мощных машин. 00:00 Введение 00:41 Установка 02:12 Запуск модели 09:01 Заключение Ollama: https://ollama.ai Блог: https://www.ianwootten.co.uk/2024/01/... Поддержите мою работу: Посетите мой сайт: https://www.ianwootten.co.uk Подпишитесь на меня в Twitter:   / iwootten   Подпишитесь на мою рассылку: https://newsletter.ianwootten.co.uk Я много лет использую DigitalOcean для веб-хостинга. Получите 200 долларов на регистрацию: https://m.do.co/c/d05114f84e2f Угостите меня чашечкой чая: https://ko-fi.com/iwootten Узнайте, как разработчики зарабатывают на сайд-проектах: https://niftydigits.gumroad.com/l/sid... Оборудование: RPi 5 от Pimoroni на Amazon: https://amzn.to/4aoalOd Некоторые из этих ссылок являются партнерскими, это означает, что я получаю комиссию с соответствующих покупок без дополнительных затрат для вас.