Você precisa estar ciente das configurações de agrupamento/conjunto de caracteres nos níveis de banco de dados/tabela/coluna. As configurações no nível da coluna têm precedência sobre as outras. Por causa disso, estou incluindo comandos que você pode usar para realizar essas alterações em cada nível do banco de dados.
Inspecione sua configuração atual (banco de dados):
SHOW CREATE DATABASE db_name;
Inspecione sua configuração atual (tabela):
SHOW TABLE STATUS WHERE name='tbl_name'
Inspecione sua configuração atual (colunas):
SHOW FULL COLUMNS FROM tbl_name;
Altere o conjunto de caracteres/colação (banco de dados):
ALTER DATABASE db_name DEFAULT CHARACTER SET utf8;
Altere o conjunto de caracteres/colação (tabela):
ALTER TABLE tbl_name DEFAULT CHARACTER SET utf8;
Altere o conjunto de caracteres/agrupamento (colunas):
ALTER TABLE tbl_name CONVERT TO CHARACTER SET utf8;