MySQL:recuperando ID em que exatamente 2 linhas compartilham o mesmo ID, mas têm IDs de usuário diferentes

Aqui está uma abordagem de alto desempenho, sem usar subconsultas. Você pode simplesmente filtrar os resultados em Having cláusula, usando agregação condicional:

SELECT 
  conversation_id 
FROM assoc_user__conversation 
GROUP BY conversation_id 
HAVING 
  -- all the rows to exists only for 1000001 or 1000002 only
  SUM(user_id IN (1000001, 1000002)) = COUNT(*)

Resultado

| conversation_id |
| --------------- |
| 10              |

Ver no DB Fiddle

Outra variação de agregação condicional possível é:

SELECT 
  conversation_id 
FROM assoc_user__conversation 
GROUP BY conversation_id 
HAVING 
  -- atleast one row for 1000001 to exists
  SUM(user_id = 1000001) AND  
  -- atleast one row for 1000002 to exists
  SUM(user_id = 1000002) AND  
  -- no row to exist for other user_id values
  NOT SUM(user_id NOT IN (1000001, 1000002))