4. Условие для B(k,l) будет: i<k<n , l<n-m OR l>n+m, где m=j+1...n
как-то так. Это просто реализовать через обычный счётчик и т.п.
5. В результате получится массив B(k,l), состоящий из элементов множества омега (заштриховано). Как и чем его заполнить это уже дело десятое, на ваше усмотрение). Ну, надеюсь, Вы поняли
6. А, дальше