Родился 28 февраля 1889 года в селе Людково Черниговской губернии в семье крестьянина.

Балтийский матрос, большевик, в революционном движении с 1907 года. С 1911 года на Балтийском флоте. Член РСДРП с 1912 года. Являлся одним из руководителей антивоенного выступления матросов на линкоре «Император Павел I» в 1915 году. После 6-месячного заключения отправлен на фронт, затем снова арестован за антивоенную пропаганду и освобождён Февральской революцией 1917 года. Был членом Гельсингфорского совета, с апреля 1917 года председатель «Центробалта». Принимал активное участие в подготовке флота к Октябрьскому вооружённому восстанию.

Во время Октябрьской революции командовал красными отрядами в Гатчине и Красном Селе, арестовывал генерала П. Н. Краснова. На II Всероссийском съезде Советов вошёл в состав Совета народных комиссаров в качестве члена Комитета по военным и морским делам. До марта 1918 года — народный комиссар по морским делам. В годы гражданской войны и мирного строительства находился на командных должностях в Красной армии. В феврале 1918 года командовал отрядом моряков под Нарвой, но бежал «без напора со стороны немцев». Отступив до Гатчины, его отряд был разоружён 6 марта. Дыбенко исключили из РКП(б), а 16 марта, на IV-м съезде Советов, он был лишён всех постов. Вскоре арестован, 25 марта выпущен на поруки, с условием нахождения в Москве до суда. Бежал, в Самару, откуда возвращён в Москву. В мае 1918 года отдан под суд, но оправдан.

Летом 1918 года был направлен на подпольную работу на Украину. В августе 1918 года был арестован, но в октябре обменян на пленных немецких офицеров. С ноября 1918 года Дыбенко командир полка, бригады, группы войск, дивизии. Возглавил 1-ю Заднепровскую Украинскую Советскую дивизию, в которую влились многотысячные отряды самых известных на Украине партизанских атаманов — Никифора Григорьева и Нестора Махно. С весны 1919 года командующий Крымской армией и нарком по военным и морским делам Крымской советской республики. В 1919—1920 годах командовал соединениями под Царицыном и на Кавказе. Под общим командованием М. Н. Тухачевского Дыбенко во главе Сводной дивизии был одним из руководителей подавления Кронштадтского восстания (1921). Участвовал в подавлении крестьянского восстания в Тамбовской губернии.

С 3 марта по 11 мая 1920 года — начдив 1-й кавказской кавалерийской дивизии; с 28 июня по 17 июля 1920 года начдив — 2-й Ставропольской кавалерийская дивизии имени М. Ф. Блинова.

В 1922 году Дыбенко был восстановлен в РКП(б) с зачётом партстажа с 1912 года. 

В 1937 году Дыбенко был избран депутатом Верховного Совета 1-го созыва. В 1936—1937 годах под руководством Дыбенко и начальника Ленинградского УНКВД Л. М. Заковского были проведены чистки в Ленинградском военном округе. Дыбенко входил в состав Специального судебного присутствия, осудившего группу высших советских военачальников по «Делу Тухачевского» в июне 1937 года.

В сентябре 1937 года Дыбенко был снят с должности командующего Ленинградским военным округом, но затем восстановлен в должности. В начале января 1938 года Дыбенко был уволен из РККА и назначен заместителем наркома лесной промышленности.

26 февраля 1938 года Дыбенко был арестован в Свердловске. На следствии подвергался жестоким избиениям и пыткам. Признал себя виновным в участии в антисоветском троцкистском военно-фашистском заговоре. 29 июля 1938 года приговорён к смертной казни. Также Дыбенко обвинили в связях с М. Н. Тухачевским, которого он незадолго до этого отправил на расстрел. Дыбенко был расстрелян в день вынесения приговора, место захоронения — полигон «Коммунарка». 

Реабилитирован в 1956 году.