Родился 30 ноября 1736 года в селе Инверкитинг, Файф, Шотландия в семье капитана торгового судна. Грейг стал моряком и ходил матросом в плавания на судах своего отца, затем перешёл в 1750 году на Королевский военно-морской флот Великобритании. 

Когда российское правительство обратилось к правительству Великобритании
с просьбой направить нескольких британских морских боевых офицеров в Россию для помощи в модернизации российского флота, Грейг оказался в числе выбранных для этой миссии. Уже вскоре после поступления на русскую службу он хорошо себя зарекомендовал, получив в 1764 году звание капитана 1 ранга. 

В 1770 году, через два года после начала Русско-турецкой войны 1768—1774 годов, Грейг был поставлен во главе нескольких отрядов кораблей, находившихся в составе эскадры под командованием графа Алексея Орлова и адмирала Григория Спиридова, отправившейся в военную экспедицию в Средиземное море. В Хиосском сражении Грейг командовал кордебаталие. 

В 1772 году руководил морской атакой на Чесменскую крепость. С 1774 по 1775 годы возглавлял эскадру, отправленную в Средиземное море из Кронштадта. В 1775 году привёз в Кронштадт похищенную Алексеем Орловым княжну Тараканову. В 1775 году Грейг получил должность губернатора Кронштадтского порта. В 1777—1778 годах возглавил флотскую дивизию. В 1782 году был избран членом Королевского общества. В 1785 году по его инициативе совет Адмиралтейства был переведён из Санкт-Петербурга в Кронштадт.

После начала Русско-шведской войны Грейг командовал Балтийским флотом, сумев блокировать шведский флот в Свеаборге, в то время как сам успешно действовал
в открытом море. 17 июля 1788 года состоялось Гогландское сражение. Силы флотов были примерно равны, но командовавший шведами герцог Карл Сёдерманландский большую часть сражения провёл заперевшись в своей каюте, в отличие от Грейга, который на 100-пушечном корабле «Ростислав» атаковал шведский «Принц Густав» под командованием вице-адмирала Густава Вахмейстера, вынудив того отступить, а затем
и сдаться. Сражение длилось шесть часов в густом пороховом дыму, и под покровом ночи шведские корабли, начавшие испытывать нехватку боеприпасов, были вынуждены под атаками Грига отойти к побережью.

Через несколько дней после одержанной над противником победы он заболел лихорадкой, из-за которой был отправлен в Ревель для лечения.

Умер 26 октября 1788 года на борту своего корабля «Ростислав».