Parece que você precisará reiniciar o SQL Server de acordo com o link do MSDN para habilitar Autenticação de modo misto

Existe outro artigo (comentário do usuário na parte inferior) referenciando uma chave de registro que você pode consultar; ele também diz que você precisará reiniciar o serviço depois de alterá-lo.

Do primeiro link:

Para alterar o modo de autenticação de segurança:

• 
  No Pesquisador de Objetos do SQL Server Management Studio, clique com o botão direito do mouse no servidor e clique em Propriedades.
  
• 
  Na página Segurança, em Autenticação do servidor, selecione o novo modo de autenticação do servidor e clique em OK.
  
• 
  Na caixa de diálogo SQL Server Management Studio, clique em OK para confirmar a necessidade de reiniciar o SQL Server.
  

Para reiniciar o SQL Server a partir do SQL Server Management Studio

• No Pesquisador de Objetos, clique com o botão direito do mouse no servidor e clique em Reiniciar. Se o SQL Server Agent estiver em execução, ele também deverá ser reiniciado.