Você está pensando demais nisso:
- chaves primárias (não importa quantas colunas estejam envolvidas) devem ser exclusivas
- sua chave primária são as duas colunas a, b
Portanto, a e b juntos deve ser único.
Os valores individuais de aeb são irrelevantes.