Виталик поделился личной настройкой локальной LLM, призывая создавать больше безопасных, открытых, локализованных и ориентированных на конфиденциальность AI-инструментов

Сообщение BlockBeats, 2 апреля, Виталик Бутерин в личном блоге опубликовал статью о своей собственной, локальной, приватной и безопасной персональной конфигурации LLM. В основе конфигурации — ноутбучный GPU NVIDIA 5090, модель Qwen3.5:35B, инструмент для вывода llama.cpp, песочница bubblewrap, система NixOS, а также пользовательский прокси и локальная база знаний, чтобы снизить зависимость от удалённых сервисов.

Виталик отметил, что если применять это правильно, то ИИ на самом деле может создать будущее с более сильными гарантиями приватности и безопасности. Локально генерируемый код может заменить необходимость скачивания больших и сложных внешних библиотек, благодаря чему больше программ смогут работать по принципу «минимализм и автономность». Виталик также призвал больше людей посвятить себя созданию безопасных, с открытым исходным кодом, локальных и ориентированных на приватность инструментов ИИ, чтобы пользователи могли использовать их спокойно, а также чтобы контроль и полномочия переходили в руки пользователей.