TCP порт камеры не отвечает

А когда вы обращаетесь внутри домашней сети, то указанный URL и порт 37777 работают корректно?
Попробовал сейчас, но пинг не проходит.
Еще один момент - мне кажется, что утилита не зависает, просто порт открыт и поэтому пакеты уходят в него, а ответа оттуда не будет, так как протокол не совпадает.
Сообщите когда пойдет пинг и я попробую еще раз посмотреть

И еще момент - а что вы ожидаете получить? RTSP это ведь только сигнализация мультимедиапотока, а сам поток пойдет по RTP.
И RTP, скорее всего, будет по UDP, а не по TCP

Увы, я не знаю как работает ваша камера.
Вероятно, когда вы пишете rtsp:// и далее номер порта 26194, то происходит установление соединения именно по протоколу RTSP с аутентификацией и т.д. Однако сам медиа-поток пойдет по выбранному сторонами (или назначенному камерой) UDP порту. Этот порт может быть динамическим и вы о его номере не узнаете пока не снимите дамп трафика в своей локальной сети при успешном установлении соединения.

При установлении соединения внутри своей сети может быть следующий алгоритм - после успешной аутентификации на TCP порту 554 (или если вы его перенастроили на 37777) ваша камера должна начать передавать поток по протоколу RTP (UDP) на адрес вашего компьютера и порт, который ваш компьютер будет слушать. Конечно, камера будет посылать этот поток с любого свободного своего UDP порта. Прежде, чем попытаться всю эту конструкцию выставить в Интернет через нашу службу вам надо детально понимать что и как происходит внутри.

Если вам сложно в этом разобраться, то можно просто установить второй VPN туннель и смотреть камеры через VPN подключение, а не мучаться с выставлением всего этого через опубликованные порты. Если хотите разобраться то снимите трафик внутри своей локальной сети при помощи tcpdump или Wireshark и тогда станет более понятно, что же именно надо пробрасывать.