Que tal agora?
SELECT MAX(Stamp) as Stamp, dataField1, dataField2
FROM tableName
GROUP BY DAYOFYEAR(Stamp)
Eu diria que usar
DAYOFYEAR em vez de DAY como todos afirmaram. Para a diferença, veja o link abaixo. Demonstração
Nesta demonstração,
DAY dá 3 linhas que é INCORRETO em oposição a 4 linhas usando DAYOFYEAR . 
