Você não pode instalar o software do servidor de banco de dados diretamente no OS X. Há algum tempo, a Oracle decidiu não dar mais suporte a ele, provavelmente porque não foi usado o suficiente para justificar os custos envolvidos. Parece que me lembro que seu fim coincidiu aproximadamente com a queda da linha Xserve da Apple, mas posso ter imaginado isso.
Um cliente como o SQL Developer é uma proposta muito diferente do ponto de vista do suporte. O SQL Developer é um aplicativo Java e requer a instalação de um JVM/JDK. A escrita-uma vez-execução-em qualquer lugar do Java pode não ser totalmente verdadeira, mas ainda é provável que dê menos trabalho para suportar um aplicativo Java relativamente pequeno do que uma besta compilada nativamente como um RDBMS completo. Obviamente, eles precisam fazer algum trabalho para ter um pacote .app e há algumas diferenças de aplicativos em relação à versão do Windows, mas eles não precisam se preocupar com arquiteturas, bibliotecas de sistema etc. diferentes, pois esse é o problema da JVM.
Você pode usar o SQL Developer em um Mac para se conectar a um banco de dados rodando no Windows ou Unix/Linux etc., então ele ainda tem um lugar; o fato de você não poder ter um servidor local rodando no mesmo hardware não é realmente relevante para a maioria das pessoas. Ele apenas permite que os desenvolvedores usem um Mac em vez de forçá-los a um PC Windows ou Linux.
Se você tiver acesso apenas a um Mac, a rota mais simples ainda é conforme observado anteriormente , para instalar o VirtualBox e uma das imagens de VM pré-criadas A Oracle fornece.
Você também pode instalar Windows ou Linux no Bootcamp ou em sua própria VM no Virtualbox, Parallels ou VMWare; e, em seguida, instale o Oracle nativamente. O uso de uma imagem pré-criada evita que você precise aprender a instalar o software do servidor de banco de dados e também facilita o retorno - se você realmente estragar algo, pode descartá-lo e começar de novo com bastante simplicidade.
Se você estiver preocupado com desempenho ou uso de energia, sugiro que comece com uma VM e veja como se sai; você sempre pode adicionar o Bootcamp mais tarde e até mesmo mover os dados se quiser seguir esse caminho.
Você pode tentar hackear alguma coisa, é claro; já foi feito antes com 10g, mas não vi ninguém testando recentemente, então pode não ser tão fácil no Yosemite e 11g/12c.