Sua concatenação de strings está confusa, deveria ser:(mais simplificado )
$selDoc="SELECT * FROM documents WHERE 'U".$_SESSION['userId']."' IN (senderID,receiver_id) ORDER BY id DESC";
quando a instrução acima for analisada, ela ficará assim:
SELECT *
FROM documents
WHERE 'UXX' IN (senderID,receiver_id) // where XX is the userID
ORDER BY id DESC
Como nota lateral, a consulta é vulnerável com
SQL Injection
se o valor(s ) das variáveis veio de fora. Por favor, dê uma olhada no artigo abaixo para saber como evitar isso. Usando PreparedStatements
você pode se livrar de usar aspas simples em torno de valores.