У тебя будет (если не ошибаюсь 9^8) разных вариантов перебора.
Ну как я понял твою задачу, у нас есть массив 3х3, который должен заполняться случайными числами от 0 до 8, а далее по нажатию кнопки нам надо просто отсортировать массив?
На сколько я помню алгоритм А* ( оно же эвристическое уточнение ) используется для полного перебора в графах.
посмотри еще Задача Коммивояжёра. там в принципе графы, но тебе помочь должно я думаю.