Локальные LLM: Как правильно выбрать железо для максимальной производительности

Выбор аппаратного обеспечения для запуска больших языковых моделей (LLM) локально часто вызывает вопросы, особенно при сравнении таких мощных систем, как MacBook M5 и NVIDIA RTX 4090. Однако подход «какой чип лучше?» является ошибочным. Правильная постановка вопроса должна быть следующей: какую…

Read more

Запуск задач по расписанию: systemd-таймеры как современная альтернатива Cron

В современной Linux-инфраструктуре управление задачами по расписанию претерпело значительные изменения. Традиционный Cron, долгое время бывший стандартом для автоматизации рутинных операций, постепенно уступает место более мощным и интегрированным инструментам, таким как systemd-таймеры. Несмотря на свою простоту, Cron имеет ряд существенных недостатков,…

Read more

Оптимизация Развертывания Локальных LLM: Знакомство с llmfit

Оптимизация Развертывания Локальных LLM: Знакомство с llmfit В условиях растущего интереса к локальному развертыванию больших языковых моделей (LLM) и потенциальной нестабильности внешних сервисов, вызванной геополитическими факторами, выбор подходящей модели для имеющегося оборудования становится критически важной задачей. Традиционный подход, требующий скачивания…

Read more

llmfit: Эффективный подбор локальных LLM под ваше оборудование

В условиях растущего интереса к конфиденциальности данных, контролю над вычислениями и потребностью в стабильной работе, развертывание локальных больших языковых моделей (LLM) становится всё более актуальным. Однако одной из ключевых проблем при переходе на локальные решения является определение того, какое оборудование…

Read more

strace: Глубокий анализ системных вызовов для отладки приложений в Linux

Разработчики и системные администраторы часто сталкиваются с ситуациями, когда исполняемый файл завершает работу без явных сообщений об ошибке, выдает неинформативное «Error: Permission denied» или ведет себя непредсказуемо. В таких случаях стандартные логи могут быть пусты, а поиск по коду ошибки…

Read more

Автоматические обновления пакетов Ubuntu/Debian: Безопасность и Стабильность с unattended-upgrades

Поддержание актуальности пакетов на серверах Linux является критически важной задачей для обеспечения безопасности и стабильности системы. Однако подходы к автоматизации этого процесса часто бывают ошибочными, создавая либо уязвимости, либо риски сбоев в работе продуктивных систем. Стандартная практика запуска apt upgrade…

Read more

Знакомство с Hadoop: Комплексный Обзор для Системных Администраторов и Разработчиков

Четыре года назад мне представилась возможность глубоко познакомиться со стеком технологий, о котором ранее я не имел представления. Это был мир Hadoop, и мне пришлось погрузиться в него сначала со стороны администрирования, а затем и в разрешение проблем на уровне…

Read more

Управление Пользователями и Группами в Linux: Руководство для Системного Администратора

Управление Пользователями и Группами в Linux: Базовые Принципы и Практики Linux изначально проектировался как многопользовательская операционная система. В ее основе лежит строгая модель безопасности, где каждый процесс и каждый файл привязаны к конкретному пользователю и одной или нескольким группам. Непонимание…

Read more

Создание виртуальной файловой системы в файле с помощью Loop-устройств в Linux

В Linux существует элегантное решение для создания изолированной файловой системы без необходимости использования физического диска или USB-накопителя. Это особенно полезно для тестирования новых файловых систем, экспериментов с разделами или создания зашифрованных контейнеров. Вместо физического носителя вы можете использовать обычный файл…

Read more

Миграции PostgreSQL: Понимаем блокировки и предотвращаем зависания продакшна

Представьте следующую ситуацию: ваш CI/CD-пайплайн запускает миграцию базы данных, которая выполняет стандартную операцию ALTER TABLE — например, добавляет колонку или изменяет тип поля. Ожидается, что такая операция займет считанные секунды, но вместо этого она зависает, и вскоре вы получаете тревожное…

Read more