Você não tem os drivers MS SQL instalados. Você pode verificar isso com phpinfo();

No Linux você precisa de mssql.so ou sybase.soCom debian seu apt-get install php5-sybase

Para janelas dê uma olhada aqui:http:// msdn.microsoft.com/en-US/library/cc793139%28v=SQL.90%29.aspx

Drivers precisam ser configurados para PHP para encontrar a função mssql_...

Você também pode ver as classes PDO DB, pois elas podem se conectar a qualquer DBS, você precisa dos drivers instalados.