O Redis não usa o arquivo conf em seu diretório inicial por padrão. Você tem que passar o arquivo na linha de comando:
.\redis-server.exe redis.windows.conf
Isto é o que está no meu arquivo conf:
maxheap 2048M
heapdir D:\\redisheap
Essas configurações resolveram meu problema.