Tente remover o parêntese da cláusula SELECT. De Microsoft TechNet , a sintaxe correta para uma instrução INSERT usando uma cláusula SELECT é a seguinte.
INSERT INTO MyTable (PriKey, Description)
SELECT ForeignKey, Description
FROM SomeView
O erro que você está recebendo, "O SELECT examinaria mais de MAX_JOIN_SIZE linhas; verifique seu WHERE e use SET SQL_BIG_SELECTS=1 ou SET SQL_MAX_JOIN_SIZE=# se o SELECT estiver correto.", está realmente correto, supondo que você tenha muitas linhas em ambos BOOK e temp_cheques. Você está tentando consultar todas as linhas de ambas as tabelas e fazer uma referência cruzada, resultando em uma consulta de tamanho m*n. O SQL Server está tentando avisá-lo disso antes de executar uma operação potencialmente longa.
Definir
SQL_BIG_SELECTS =1 antes de executar esta instrução e tente novamente. Deve funcionar, mas observe que esta operação pode levar muito tempo. 
