С этими логами сложность - у нас нет логов неуспешных подключений по ipsec. Ввиду их очень большого объема мы их просто не снимаем. Там гигабайт за десять минут набирается.
Посмотрите, что у вас для IKE стоит шифрование aes256, алгоритм хеширования sha1
Для ESP попробуйте поставить null