Фотографии контактов становятся ниже качеством исключительно после синхронизации Google с вашими контактами, так как в этом процессе, для экономии места, фотографии сжимаются. Касается это операционной системы Android с версией ниже 4.1 Jelly Bean. Начиная с 4.1 и выше на серверах компании Google размер синхронизируемых снимков увеличен до 720х720 точек.
Для того, что бы полностью устранить эту проблему достаточно отключить синхронизацию с Google и в ручную загрузить фотографии еще раз. Осуществить это можно переносом контактов Google на свой телефон. Новые данные также же будут сохраняться на ваше устройство, но синхронизация производиться не будет.
Немного улучить качество фотографий можно даже с включенной синхронизацией - если заливать фото с gmail.com через ваш компьютер.
Один из самых простых и актуальных на сегодняшний день способов - использовать сторонние приложения, с помощью которых можно установить собственные фотографии для отдельных контактов.
Для примера можно взять Full Screen Caller ID - программа выводит изображение звонящего на полный экран. (Также можно использовать HD Contacts и Contact Photos).