Nghệ sỹ Nhân dân Ngô Hoàng Quân sinh ra trong một gia đình có truyền thống âm nhạc ở Hà Nội. Ông bắt đầu học đàn violoncello với cha mình là Giáo sư, Nhà giáo Nhân Dân Hoàng Dương trước khi theo học tại Nhạc viện Hà Nội với giáo sư Nghệ sỹ Nhân dân Bùi Gia Tường. Ông tốt nghiệp loại ưu bộ môn đàn Violoncello tại Học Viện Âm nhạc quốc gia Việt Nam năm 1974. Năm 1976, ông được chọn đi học tại Nhạc viện Tchaikovsky, Matxcơva dưới sự hướng dẫn của Giáo sư S. Kalijanov, nguyên là trợ lý của Giáo sư M. Rostropovitch (Liên xô cũ).
Ngô Hoàng Quân là nghệ sỹ độc tấu và bè trưởng bè Violoncello của Dàn nhạc Giao hưởng Việt Nam từ năm 1982. Ông đã tham gia cuộc thi âm nhạc P. I. Tchaikovsky tại Matxcơva năm 1986 và cuộc thi J. S. Bach tại Leipzig năm 1988. Ông đã biểu diễn ở nhiều thành phố của Nga, Nhật,Trung Quốc, Macedonia, Hàn Quốc và Đức. Năm 1993, ông được Dàn nhạc Giao hưởng Bangkok mời diễn độc tấu tại Thái Lan. Năm 1999, ông tham gia biểu diễn cùng Dàn nhạc Giao hưởng Vienna Volksoper tại thành phố Hồ Chí Minh. Năm 2000, ông biểu diễn cùng Dàn nhạc Nagoya.
Năm 2001, ông được bổ nhiệm Phó giám đốc Dàn nhạc Giao hưởng Việt Nam và từ năm 2003 đến năm 2011, ông đảm nhiệm vai trò Giám đốc Dàn nhạc giao hưởng Việt Nam. Từ cuối năm 2011-2016, ông là Phó Cục trưởng Cục Nghệ Thuật Biểu diễn, Bộ Văn hóa, Thể thao và Du lịch.
Hiện tại, ông là Giám đốc Điều hành Liên hoan Âm nhạc Vietnam Connection.