Для использование собственного SMTP сервера перейдите в "Управление системой - Глобальные настройки - Исходящая почта".
Далее поставьте галку "Использовать SMTP". Укажите адрес почтового сервера, тип. При необходимости, имя пользователя и пароль.
После того, как настройки будут указаны, необходимо нажать на кнопку "Отправить тестовое письмо". В случае, если всё выполнено корректно, Вы получите уведомление, что Тестовое письмо успешно отправлено.

Базовая настройка системы