แต่ไม่นานนัก เขาก็ได้พัฒนาการร้องแบบ R&B และ Doo-wop (แนวเพลงสไตล์ที่เน้นเสียงร้องเป็นหลัก) ต่อมาในช่วงปลายทศวรรษ 1950 Gaye ได้เข้าร่วมกลุ่มนักร้องชื่อ The New Moonglows
ด้วยเสียงร้องอันโดดเด่นทำให้ในที่สุด Marvin Gaye ก็ได้เซ็นสัญญากับ Motown Records
หลังจากที่เขาเข้าไปอยู่ภายใต้ Motown Records แล้ว ก็ยังไม่มีเพลงเป็นของตัวเอง เพียงแต่ทำดนตรีเบื้องหลังให้กับนักร้องดังในสมัยนั้นอย่าง Little Stevie Wonder
นอกจากนี้ยังมีออกเพลงคู่กับนักร้องหญิงในตำนานอย่าง Diana Ross และ Mary Wells
และในสมัยนั้น เพลง "Can I Get a Witness" กับ "I Heard it Through the Grapevine"
ได้กลายมาเป็นเพลงฮิตตลอดกาล และ เป็นเพลงที่มียอดขายมากที่สุดในยุค 60s ของค่าย Motown Records
Marvin Gaye และ Tammi Terrell ได้สร้างความประทับใจให้กับวงการด้วยการทำเพลงคู่ที่ต่อมาโด่งดังจนกลายเป็นตำนานระดับโลก นั่นคือ เพลง "Ain't No Mountain High Enough" และ "If I Could Build My Whole World Around You."