UTF-8 sem dúvida. Faça tudo UTF-8. Para colocar texto codificado em UTF-8 em sua página da web, use isso na sua tag HEAD:
<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />
Quanto ao MySQL, coloque o seguinte em seu arquivo my.cnf (config):
[mysqld]
collation_server=utf8_unicode_ci
character_set_server=utf8
default-character-set=utf8
default-collation=utf8_general_ci
collation-server=utf8_general_ci
Se você estiver obtendo caracteres inúteis do banco de dados de consultas executadas por seu aplicativo, talvez seja necessário executar essas duas consultas antes buscando seu texto em japonês:
SET NAMES utf8
SET CHARACTER SET utf8
