Судя по фоткам, силовая часть преобразователя работает по схеме обратноходового блокинг-генератора. Попробую на примере схемы блока питания от видеомагнитофона объяснить принцип работы таких преобразователей.
Транзистор Q02 (2SC4517) и обмотки трансформатора 1-4+6-8 являются блокинг-генератором. Когда транзистор открывается, через трансформатор начинает идти ток и в нем происходит накопление энергии. Когда сердечник трансформатора подходит к насыщению, на обмотке 6-8 происходит смена полярности напряжения, которое воздействуя на базу транзистора закрывает его. Из-за прекращения тока на вторичных обмотках трансформатора происходит всплеск напряжения и через диоды начинают заряжаться конденсаторы выходных цепей. Когда энергия запасенная сердечником иссякает, обмотка 6-8 перестает подавать на базу силового транзистора запирающее напряжение, он открывается и процесс повторяется. Когда напряжение на выходе достигнет требуемого уровня, схема стабилизации на Q03-Q05 включит светодиод оптрона, фототранзистор оптрона подаст открывающий сигнал на базу Q01. Открытие транзистора Q01 приведет к тому, что силовой транзистор Q02 станет закрываться раньше чем сердечник трансформатора войдет в насыщение, соответственно накопленная им энергия уменьшится и напряжение на выходе перестанет увеличиваться. Регулированием времени открытия силового транзистора производится стабилизация выходного напряжения.
При этом чем меньшее время силовой транзистор открыт, тем выше частота работы преобразователя. То что транс свистит, то есть работает в звуковом диапазоне, говорит о пониженной частоте работы преобразователя, то есть на силовой транзистор не приходит сигнал для его раннего закрытия. Поэтому на выходе повышенное напряжение.
LM2576 греется скорее всего из-за повышенного напряжения на ней, а резисторы из-за повышенного тока через них.
В первую очередь следует убедиться в целостности оптрона (наиболее часто проблема из-за него), проверить все полупроводники вокруг оптрона, транса и силового транзистора. Межвитковое замыкание в трансе маловероятно, так как при этом в первую очередь обычно вылетает силовой транзистор.
С подобными машинками дел не имел. Не исключаю, что управление оптроном осуществляется каким то сложным способом через схему задания уровня входного напряжения и проблема в ней.