É um problema conhecido sobre a subtração de inteiros não assinados .

A subtração entre valores inteiros, onde um é do tipo UNSIGNED, produz um resultado unsigned por padrão. Se o resultado fosse negativo, ele se torna o valor inteiro máximo. Se o NO_UNSIGNED_SUBTRACTION O modo SQL está habilitado, o resultado é negativo.

Referência:Tipos numéricos