Adicione outra coluna com um carimbo de data/hora. Em seguida, execute um cron job regular para excluir todas as linhas com um carimbo de data/hora anterior a um determinado limite (digamos, 1 dia, por exemplo).

Você pode colocar um carimbo de data/hora e atualizá-lo toda vez que vir esse usuário, o que significa que ele será "desconectado" x quantidade de tempo depois de usar o site pela última vez (mas isso significa mais transferência de banco de dados); ou você pode simplesmente colocar um carimbo de data/hora ao criar a sessão pela primeira vez e nunca mais tocá-la, o que os "desconectará" x tempo após o último login (talvez menos conveniente para o usuário, mas significa menos transferência de banco de dados).