Причина, по которой письма не отправляются через MailKit из контейнера Docker, может быть связана с тем, что контейнер не настроен для работы с почтовыми серверами или имеет проблемы с сетевыми настройками.
Для исправления ошибки MailKit.Security.SslHandshakeException при отправке писем через Docker в сервисе API на .NET Core 6 на VPS, можно попробовать следующие шаги:
1. Убедитесь, что в контейнере Docker корректно настроены сетевые настройки. Проверьте доступность почтового сервера из контейнера.
2. Проверьте, что в Docker контейнере правильно сконфигурированы параметры подключения к почтовому серверу (адрес сервера, порт, протокол, учетные данные и т. д.).
3. Проверьте, что сертификаты SSL на сервере почты действительны и корректно настроены.
4. Попробуйте использовать другие библиотеки для отправки почты из Docker контейнера, например, System.Net.Mail или другие альтернативы MailKit.
Если проблема сохраняется, рекомендуется обратиться к документации MailKit и Docker, а также обратиться за помощью на различные форумы или сообщества разработчиков.