3*3 в десятичной равно 9. Для числа 3 переполнения разряда нет, то есть это допустимое значение разряда. Нужно подобрать такую систему счисления, чтобы было переполнение разряда ровно на 1, то есть, так как полученное значение равно 10 и присутствует перевод 1 в старший разряд, то результат произведения совпадает с основанием системы счисления. Отсюда система счисления имеет основанием число 9. Допустимые значения разряда - 0, 1, 2, 3, 4, 5, 6, 7, 8, переполнение разряда возникает при попытке использовать число 9 и большее.
Ответ - в девятиричной системе счисления.