¿Cuál es la diferencia entre primero que nada; para empezar;

Ambos tienen el significado de comienzo. Pero primero se puede interpretar como primero, y le pueden seguir el segundo y el tercero, que significa uno, dos y tres. Y empezar por se interpreta como principio, que significa partir de aquel. Si en una oración ambas palabras significan comienzo, en lugar de secuencia, entonces las dos pueden intercambiarse.