Ao usar XML no SQL Server, você pode tentar para converter para um tipo de dados e receber valores nulos onde a conversão falha.
declare @T table
(
Col varchar(50)
)
insert into @T values
('1'),
('1.1'),
('1,1'),
('1a')
select cast('' as xml).value('sql:column("Col") cast as xs:decimal ?',
'decimal(28,10)') as Col
from @T
Resultado:
Col
-------------
1.0000000000
1.1000000000
NULL
NULL