Dadas duas tabelas, selecione todos os dados de uma tabela e apenas os mais recentes da outra

Primeiro, encontre a postagem mais recente em cada categoria:

select topic_cat, max(topic_id) as latest_topic
from topics group by topic_cat

Em seguida, adicione isso às suas condições de junção:

SELECT  c.cat_name AS Category, t.topic_name AS Recent_Topic 
FROM categories c
left JOIN topics t on c.cat_id = t.topic_cat 
left join (select topic_cat, max(topic_id) as latest_topic
        from topics group by topic_cat) as latest_topics 
        on latest_topics.topic_cat = c.cat_id
        and latest_topics.latest_topic = t.topic_id 
where latest_topics.topic_cat is not null or t.topic_cat is null;