O MySQL está apenas convertendo strings em números da melhor maneira possível, para que possa fazer a operação matemática neles. Nesse caso, está apenas removendo todos os dois-pontos, traços e espaços não numéricos.
Tente isto:
SELECT (20110413155959 - 20110413160000) AS dates;
Suas datas, sem todas as coisas que as impedem de serem números - o resultado é -4041
