Ordem personalizada do SQL por

A mensagem de erro explica perfeitamente o problema.

No primeiro exemplo, o ORDER BY item -- CASE WHEN ... END -- não aparece no SELECT Lista.

No segundo exemplo, o ORDER BY item -- a.QuestionID -- aparece no SELECT Lista.

Para corrigir o primeiro exemplo, você precisará fazer algo assim:

SELECT DISTINCT a.QuestionID, a.QuestionName, b.AnswerID, b.AnswerName,
                CASE WHEN a.QuestionName = 'A' THEN 0
                     WHEN a.QuestionName = 'B' THEN 1
                     ELSE a.QuestionID
                END
FROM @TempExportList AS a
    JOIN tblAnswers AS b
        ON a.QuestionID = b.QuestionID
WHERE a.PaperID = @PaperID
ORDER BY CASE WHEN a.QuestionName = 'A' THEN 0
              WHEN a.QuestionName = 'B' THEN 1
              ELSE a.QuestionID
         END