Eu encontrei uma solução com a condição

metaData.getColumnType(columnNumber) == 12

se esta condição for satisfeita, execute a consulta

SELECT System_Type_Id FROM Sys.Columns WHERE Name = [column name] AND Object_Id = (SELECT Object_Id FROM Sys.Tables WHERE Name = [table name])

para smalldatetime ele retornará 58

e para datetime ele retornará 61 .