Данный пост рассматривает как быстро настроить сервер для запуска LLM моделей с сайта ollama.com
Для запуска языковой модели deepseek-r1 с 7 миллиардами параметров потребуется сервер с 4-6 ядрами CPU, не менее 6 ГБ ОЗУ и 30Гб SSD (NVMe) диском.
Для более продвинутых моделей потребуется больше ресурсов (оперативной памяти), например для запуска этой же модели с 14b (14 миллиардов параметров) потребуется сервер с не менее 12 Гб оперативной памяти. Количество ядер CPU будет напрямую влиять на скорость работы языковой модели, поэтому чем их будет больше тем быстрее мы будем получать ответы.
В данном примере мы будем настраивать сервер с ОС Ubuntu 22, так же без проблем это можно настроить и на Windows.

Для настройки сервера под работу данной языковой модели или любой другой обращайтесь в поддержку хостинга.


Читать дальше

Эта инструкция позволит вам автоматически изменять IPv6-адреса в файле конфигурации 3proxy с помощью HTTP-запросов. Это удобно для динамического управления прокси без необходимости редактировать файлы вручную.


Читать дальше

В данном посте будет рассмотрена установка децентрализованного видеохостинга PeerTube на сервер с операционной системой Ubuntu 22.04 LTS
В результате вы получите собственный видеохостинг на котором можно:
1. Размещать ваши видео.
2. Сделать бекап вашего Youtube канала в пару кликов.
3. Создавать онлайн трансляции и сохранять их.
4. Делать импорт видео из torrent файлов.
5. Выполнять импорт видео из многих популярных сервисов по http ссылке.

Пример работающего инстанса можно посмотреть по ссылке video.vpsville.ru

Читать дальше

Если в вашей системе Debian 9 перестал работать apt-get (менеджер пакетов), скорее всего это связано с тем, что эта система перестала поддерживаться с 27 марта 2023 года.

Что бы продолжить работу с Debian 9 нужно:

1. Перемещаем в архив текущее содержимое /etc/apt/sources.list


Читать дальше

Шаг 1: Установите OpenSSH в Windows

OpenSSH – это инструмент командной строки, который можно использовать для подключения к Linux-серверу через SSH. Проверьте, установлен ли OpenSSH на вашем компьютере Windows. Если нет, выполните следующие действия:

Откройте «Параметры» Windows.

Читать дальше

В связи с большой популярностью ChatGPT версии 3 в данном посте рассмотрим как настроить Telegram Bot для доступа к чату ChatGPT 3 (модель text-davinci-003).

Настройка серверной части телеграм бота будет выполняться на сервере с системой Ubuntu 22, в других системах так же проблем возникнуть не должно.

Читать дальше

Для быстрой установки NextCloud на новой системе Ubuntu 20.04 нужно выполнить команды:

apt-get update && apt -y install snapd && snap install nextcloud

Открыть Web интерфейс NextCloud по IP адресу сервера, ввести логин и пароль администратора системы NextCloud и дождаться установки всех необходимых модулей.


Читать дальше

Данное решение поможет настроить службу DNS используя протокол https.
Это решение будет полезно в случаях:
1. Фильтруется трафик по протоколу UDP или протокол UDP полностью заблокирован. Используя dns proxy трафик будет передаваться по протоколу tcp.
2. Есть потребность скрыть DNS трафик. Весь DNS трафик будет идти через защищенный протокол https.


Читать дальше

Рассмотрим настройку динамических IPv6 прокси используя балансировщик haproxy в связке с настроенным прокси сервером 3proxy.


Читать дальше

Если в вашей системе CentOS 6 перестал работать YUM (менеджер пакетов), скорее всего это связано с тем, что эта система перестала поддерживаться с 30 ноября 2020 года. Больше об этом можно почитать тут или в Википедии.

В итоге ссылки на репозитории из файла /etc/yum.repos.d/CentOS-Base.repo стали не актуальными.

Что бы продолжить работу с CentOS 6 нужно:


Читать дальше