No Windows 10, eu precisava ir para a seguinte pasta e alterar o seguinte arquivo product.conf e definir a diretiva SetJavaHome.
%APPDATA%\sqldeveloper\<product-version>\product.conf
na minha máquina:
C:\Users\ati_o\AppData\Roaming\sqldeveloper\17.4.0\product.conf
com a seguinte linha.
SetJavaHome C:\Tools\oraclejdk8
Graças ao comentário de @thatjeffsmith, no MacOS ou Linux/Unix, acesse:
$HOME/.sqldeveloper/<product-version>/product.conf
para definir a mesma diretiva SetJavaHome.