Интересная задачка) Я вообще сюда зашел, чтобы найти функцию для геометрического квадрата) А, что , для окружности есть - должна быть для квадрата и треугольника) (надо сказать почти реализовал, но залип на этой задачке)
И, так, мой вариант решения был бы таким:
1. Заполняем массив А (n,n), случайными значениями
2. По условию находим минимальное значение (или просто тыкаем пальцем) и получаем отправную точку О(i,j)
Далее надо получить координаты (индексы) "точек" разграничения областей омега и не заштрихованной области. Я считаю угол между лучами в точке О равным 90 градусов, тогда индексы точек на лучах у меня получились (считаю начало координат(массива) верхний левый угол) :
(i+1, j+-1)
(i+2, j+-2), и т.д. 1,2,3...ограничено n в обе стороны. +- потому что два луча , - влево и + вправо.
3. Теперь дело техники задать цикл и условия. Цикл задаём сверху вниз, слева направо.