Дело не в гнезде, а в микшере.
Компьютерный регулятор громкости установите на минимум, но не отключайте звук совсем. Двойной щелчок по регулятору громкости (или ПКМ -> "Открыть микшер громкости") в трее откроет микшер. Теперь управляя ползунками, добейтесь нужного соотношения громкостей между звуковыми устройствами. Один из ползунков обязательно д.б. в крайне верхнем положении.
Теперь установите регулятор громкости на максимум и ручкой на колонках добейтесь максимальной громкости, на которой еще нет искажений звука.
Теперь ставьте желаемую громкость компьютерным регулятором.