Судя по вашему описанию, проблема, скорее всего, связана с NAT и маршрутизацией в вашем окружении VMware, так как аналогичный сервер с белым IP работает корректно. Вот несколько направлений для диагностики и устранения проблемы:
1. **Настройка NAT в VMware**:
- Убедитесь, что на уровне NAT в настройках VMware правильно настроены правила проброса портов. Вы уже упомянули, что открыли порт 51820 UDP, но желательно проверить, что проброс действительно работает и что он настроен на IP-адрес вашей виртуальной машины.
- Также, проверьте, что режим NAT в VMware не мешает передаче коррекционных пакетов. Иногда стоит попробовать использовать режим «Bridged», чтобы виртуальная машина могла напрямую взаимодействовать с сетью.
2. **Настройки брандмауэра и IPTables**:
- Выполните проверку правил IPTables на виртуальной машине. Убедитесь, что они не блокируют трафик для WireGuard. Например, можно временно отключить IPTables (`sudo ufw disable`) и проверить, проходит ли трафик через WireGuard.
- Убедитесь, что в настройках брандмауэра Windows разрешен полный трафик на порту 51820 (как для входящих, так и для исходящих соединений).
3. **MTU**:
- Если вы считаете, что проблема может быть связана с MTU, вы можете попробовать установить MTU на более низкое значение, например, 1280 или 1400, чтобы исключить проблемы с фрагментацией. Это делается с помощью команды: `sudo ip link set dev wg0 mtu [значение]`.
4. **Проверка конфигурации WireGuard**:
- Проверьте конфигурацию как на сервере, так и на клиенте. Убедитесь, что ключи, адреса и порты настроены правильно. На сервере должен быть корректно прописан AllowedIPs для клиента.
- Для тестирования можно использовать простую конфигурацию, чтобы удостовериться, что проблема не в параметрах.
5. **Проверка подключения**:
- Попробуйте использовать утилиты диагностирования, такие как `ping` или `traceroute`, чтобы проверить, действительно ли трафик доходит до сервера WireGuard и обратно.
6. **Логи WireGuard**:
- Посмотрите логи сервера WireGuard для возможных ошибок, которые могут помочь диагностировать, что идет не так. Логи могут находиться в `/var/log/syslog` или `/var/log/messages`, в зависимости от конфигурации вашей системы.
7. **Обновление и переустановка**:
- Если ничего не помогает, может быть полезно обновить WireGuard до последней версии или даже переустановить его, чтобы исключить ошибки при установке.
Если после проверки всех этих пунктов проблема останется, вы можете также рассмотреть возможность использования другого VPN-сервиса для тестирования соединения, чтобы изолировать проблему с конкретным WireGuard сервером.