Работоспособность проверена на DSM 7.1 DS918+
Для начала создадим скрипт запуска контейнера.
Зайдем в Панель управления -> Планировщик задач -> Создать -> Запланированная задача -> Скрипт, заданный пользователем.

В разделе общие выберем Пользователь -> root

Теперь перейдем в раздел Настройки задач и пропишем в поле Выполнить команду следующее
docker run -d \
—volume /path/to/config:/config \
—volume /path/to/cache:/cache \
—volume /path/to/media:/media \
—net=host \
—restart=unless-stopped \
—device /dev/dri/renderD128:/dev/dri/renderD128 \
—device /dev/dri/card0:/dev/dri/card0 \
jellyfin/jellyfin:latest

После этого запустите скрипт. Проще всего все это сделать просто через консоль сервера.
После этих действий у вас создастся контейенр в приложении Docker. Донастраиваете под себя и запускаете.
Проходим базовую настройку Jellyfin и заходим в панель управления в раздел Воспроизведение и выставляем там следующие настройки

Сохраняем и радуемся