В кабеле проверять нечего. По факту только заменой. Я не представляю себе программу, способную что-то там найти.
Только испытательную установку собирать с осциллографом, генераторами сигналов, измерителями малых ёмкостей и индуктивностей.
Что же касается самой проблемы, я у себя сделал проще. Поставил DIR-320, найдя предварительно точку наилучшего приёма в хате, и воткнул модем в него. Висит он под потолком в одной из комнат, задеть его нереально, лучшего приёма добиться можно, только если вынести на крышу. Но там придётся делать термостабилизированный влагозащищённый бокс, и не факт, что выигрыш по качеству сигнала будет большой.