Чтобы нормально работал, нужно выдерживать падение на нём не менее двух вольт, это по даташиту, а желательно не меньше 2,5-3 вольт. Если входное будет меньше, то выход поплывет вниз. Этот стабилизатор в Вашем случае не применим, это во первых. Во вторых некоторые стабы этой серии ведут себя неустойчиво при малой нагрузке на выход, надо попробовать подгрузить выход резистором, ну пусть 1 кОм. В третьих конденсаторы должны фактически висеть на ножках микросхемы, и если применяются электролитические, то они обязательно должны шунтироваться керамикой на 0,1 мкФ. В четвёртых не пойму, зачем там вообще нужно ставить стабилизатор