Родился 10 апреля 1890 года в Уфе в семье служащего, хотя происходил из дворянского рода Раллей. В 1912 году окончил Морской корпус, в 1915 году — Штурманский офицерский класс, в 1917 году — Временные курсы траления, в 1926 году — Высшие академические курсы при Военно-морской академии им. К. Е. Ворошилова. Участник Первой мировой и Гражданской войн. В 1917—1918 годах — командир миноносца «Подвижный», в 1918 году — транспорта «Рига», в 1918—1919 годах — эсминца «Капитан Изыльметьев». С 1919 года — флаг-штурман заведования тральным и заградительным делом, начальник минной обороны Балтийского моря.

В 1921 году назначен начальником оперативного отдела штаба Морских сил Балтийского моря, в 1921—1922 годах — штурман отдела траления Главного управления мореплавания, в 1922—1923 годах — флаг-штурман штаба флота, в 1923—1926 годах — командир линейного корабля «Марат».

С 1926 года — начальник Военно-морского училища им. М. В. Фрунзе и Учебного отряда кораблей военно-морских учебных заведений, с 1930 года — заместитель начальника Учебно-строевого управления Морских сил РККА. С 1932 года — командир бригады крейсеров Черноморского флота, а с 1935 года — преподаватель Военно-морской академии им. К. Е. Ворошилова. В 1936—1939 годах — начальник кафедры Военно-политической академии им. В. И. Ленина, затем начальник Управления боевой подготовки ВМФ, одновременно заместитель председателя Главной уставной комиссии.

В 1941—1945 годах — командир минной обороны, начальник штаба Балтийского флота, командующий эскадрой и Кронштадтским морским оборонительным районом.

С 1945 года работал в Комиссии по разделу германского флота; начальником кафедры тактики надводных кораблей и противоминной обороны Военно-морской академии им. К. Е. Ворошилова. Автор более 40 научных и военно-исторических работ

Ю. Ф. Ралль умер 16 сентября 1948 года в Ленинграде. Похоронен на Коммунистической площадке в Александро-Невской лавре.