Poco se puede simplificar más que quitar los primeros paréntesis:
a*b U (b*a)*
Y cuidado con la última interrogación de la pregunta, que al no poner el símbolo de exclamación de apertura, también se entendería como una expresión regular válida para los compiladores (indica operación perezosa): a*b U (b*a)*?