Isso ocorre porque quando a string declarada como VARCHAR(max) excede 8000 bytes, a string é movida para LOB_Data de IN_ROW_DATA. IN_ROW_DATA armazena apenas os ponteiros, por isso o erro não estava aparecendo porque ainda há muito espaço.