Você precisa somar os campos e dividir pelo número de campos. Se sua
Average campo é de DECIMAL tipo você nem precisa especificar o ROUND função. Qualquer decimal que exceda a declaração será apenas truncado (SQL Fiddle
):UPDATE table_name
SET AVERAGE = (grade1 + grade2) / 2;
No seu exemplo, você tem apenas dois campos dos quais está obtendo a média. Então
Average decimal(3,1) funcionaria para você, pois o máximo que a parte decimal será é .5 . Portanto, o ROUND função claramente não é necessária. 
