existem duas funções fornecidas pelo MySQL para testar a validade das geometrias, mas ambas aceitam uma geometria já formada como entrada.

ST_IsValid(ST_GeomFromText(?)); retorna um booleano

ST_Validate(ST_GeomFromText(?)); retorna o GEOM ou null se inválido.

não há nada que eu saiba que analise o WKT no MySQL, nem há uma configuração que o mude de volta para o comportamento <5.7.