Se você não conseguir criar uma função e tiver que usar algo que já existe no banco de dados:
sys.fn_repl_hash_binary
pode ser feito para funcionar usando a sintaxe:
sys.fn_repl_hash_binary(cast('some really long string' as varbinary(max)))
Extraído de:http://www .sqlnotes.info/2012/01/16/generate-md5-value-from-big-data/