Sim, você pode usar um tipo de arquivo binário.
VARBINARY(MAX) é provável que se ajuste melhor ao propósito. Sobre como "converter o arquivo Excel em bytes" (na verdade, são bytes desde o início), precisaremos saber mais sobre seu ambiente de programação para ajudar. Se você estiver usando .NET, poderá fazer algo assim:
var insert = new SqlCommand("INSERT INTO tbl (xls) VALUES (@xls)", conn);
insert.Parameters.AddWithValue("xls", File.ReadAllBytes("template.xls"));
insert.ExecuteNonQuery();
