Почему планеты вращаются вокруг своей оси?

Потому что вращаются газово-пылевые облака, в которых они зарождаются

Во Вселенной вращается почти всё: звезды, планетные системы, молекулярные облака, галактики и даже, видимо, скопления галактик. Вращение планетной системы предположительно зарождается в исходном протозвездном облаке. Именно вращение не позволяет гравитации сжать облако в точку, и оно становится плоским вращающимся диском, в центре которого загорается вращающаяся звезда.

В силу пока до конца непонятых причин в диске возникают вихревые движения вещества. Не исключено, что свое осевое вращение планеты отчасти наследуют от этих вихрей. После этого планета проходит сквозь череду столкновений с другими небесными телами. Если столкновение происходит не лоб в лоб, а по касательной, оно тоже раскручивает планету, причем в направлении, никак не связанном с ее исходным вращением. Но и это еще не все.

Осевое вращение планеты может сильно меняться из-за приливного взаимодействия со звездой, а также из-за влияния ближайших планет. Таким образом, современное (но далеко не окончательное!) вращение планет определяется совокупным действием нескольких независимых факторов, которые могут приводить к самым разным результатам.