Consulta MYSQL para obter diferença de data

Tente subconsultas como esta

SELECT 
    DATEDIFF(
      (
      SELECT MIN(date)
      FROM Transaction
      WHERE trans_type='Sell'
      ) AS first_sell_date
   ,
      (
      SELECT MIN(date)
      FROM Transaction
      WHERE trans_type='Buy'
      ) AS first_buy_date
   )

EDIT:Seguindo os comentários do OP e atualizando a pergunta com a consulta completa.

Você não pode simplesmente envolver o DATEDIFF em uma chamada MIN?

DATEDIFF(
    MIN(case when t.trans_type ='Sell' then transaction_date end),
    MIN(case when t.trans_type ='Buy' then transaction_date end)
) as Date