Uma maneira é usar uma "classe de tabela" sqlalchemy e session.merge(row), session.commit():
Aqui está um exemplo:
for row in range(0, len(df)):
row_data = table_class(column_1=df.ix[i]['column_name'],
column_2=df.ix[i]['column_name'],
...
)
session.merge(row_data)
session.commit()
