Criando o procedimento MYSQL nas migrações do Laravel 4

1. DELIMITER não é uma instrução sql válida. É apenas um comando do cliente MySql. Então é só não usar. BTW o erro que você recebe informa exatamente isso.
2. Você não pode usar DB::statement para executar CREATE PROCEDURE código porque usa a declaração preparada fonte código para Connection . Você pode usar o PDO exec() DB::connection()->getPdo()->exec() em vez disso

class CreateTagsTable extends Migration {

    /**
     * Run the migrations.
     *
     * @return void
     */
    public function up()
    {
        Schema::create('tags', function($table){
            $table->increments('id');
            $table->string('name')->unique();
        });
$sql = <<<SQL
DROP PROCEDURE IF EXISTS sp_insert_tag;
CREATE PROCEDURE sp_insert_tag(IN _name VARCHAR(32))
BEGIN
    INSERT INTO `tags`(`name`) VALUES(_name);
END
SQL;
        DB::connection()->getPdo()->exec($sql);
    }

    /**
     * Reverse the migrations.
     *
     * @return void
     */
    public function down()
    {
        $sql = "DROP PROCEDURE IF EXISTS sp_insert_tag";
        DB::connection()->getPdo()->exec($sql);
        Schema::drop('tags');
    }
}