Заходишь в ispmanager. Ищешь на панели вкладку PHP, выбираешь версию, на которой работает сайт с форумом и нажимаешь Расширения CGI. Ищешь там imagick, включаешь в столбце состояние.
В xenforo переходишь в Параметры -> Настройки -> Вложения (/admin.php?options/groups/attachments/#imageLibrary)...