Pelo que entendi, não existe mysql_starttransaction() ou algo semelhante; então você está preso com algo como:
mysql_autocommit(conn, 0);
//Do stuff here
mysql_commit(conn); //...or mysql_rollback(conn);
Eu prefiro usar o método "query" para todas essas chamadas:
mysql_query(conn, "START TRANSACTION");
//Do stuff here
mysql_query(conn, "COMMIT"); //...or mysql_query(conn, "ROLLBACK");
Também veja esta documentação .