Sempre mantenha a simplicidade, use todos os recursos integrados da Oracle disponíveis.
SELECT * FROM
(
SELECT FORMAT_NO, FORMAT_CODE, SEQ
, (CASE WHEN FORMAT_CODE = 'O' THEN LAG(seq, 1, 0) OVER (ORDER BY FORMAT_CODE) END) nn_seq
FROM
(
SELECT 1000 PRODUCT_NO, 1111 FORMAT_NO, 'P' FORMAT_CODE, 0 SEQ FROM dual
UNION
SELECT 1000, 1112, 'O', 0 FROM dual
UNION
SELECT 1000, 1113, 'H', 546 FROM dual
)
ORDER BY 2
)
WHERE FORMAT_CODE = 'O'
/
Saída:1112 O 0 546
Na consulta acima, você precisa executar a ordenação primeiro e depois usar o Oracle embutido LAG() ou LEAD(), dependendo da ordem e da saída desejada.