Thượng tướng Nguyễn Duy Ngọc sinh năm 1964; quê thị trấn Lương Bằng, huyện Kim Động, tỉnh Hưng Yên. Ông có trình độ lý luận chính trị: Cao cấp; trình độ chuyên môn: Thạc sĩ Luật. Ông trải qua nhiều năm công tác trong ngành công an.
Tháng 1/2014, ông giữ chức Phó Giám đốc Công an thành phố Hà Nội kiêm Thủ trưởng cơ quan Điều tra Công an thành phố Hà Nội. Đến tháng 11/2016, ông làm Phó Tổng Cục trưởng Tổng cục Cảnh sát (Bộ Công an). Năm 2017, ông được thăng cấp bậc hàm Thiếu tướng.
Tháng 8/2018, ông làm Cục trưởng Cục Cảnh sát điều tra tội phạm về tham nhũng, kinh tế, buôn lậu (Bộ Công an). Đến tháng 8/2019, ông giữ chức Thứ trưởng Bộ Công an. Tháng 1/2021, ông được thăng cấp bậc hàm Trung tướng.
Tháng 1/2021, tại Đại hội đại biểu toàn quốc lần thứ XIII của Đảng, ông được bầu là Ủy viên Trung ương Đảng khóa XIII, nhiệm kỳ 2021 - 2026.
Đến tháng 12/2023, ông được thăng cấp bậc hàm Thượng tướng. Ông giữ chức Thứ trưởng Bộ Công an đến tháng 6/2024, rồi được Bộ Chính trị điều động, phân công giữ chức Chánh Văn phòng Trung ương Đảng.
Ngày 3/6/2024, Bộ Chính trị điều động, phân công Thượng tướng Nguyễn Duy Ngọc, Ủy viên Trung ương Đảng, Ủy viên Ban Thường vụ Đảng ủy Công an Trung ương, Thứ trưởng Bộ Công an giữ chức Chánh Văn phòng Trung ương Đảng.