พลเอก สุเมธ นิลมัย เกิดเมื่อวันที่ 16 พฤษภาคม พ.ศ.2505 ณ โรงพยาบาลศิริราช เป็นบุตรชายในจำนวนพี่น้องสามคนของ นาวาอากาศเอก กฤชวัชร์ นิลมัย และนาวาเอกหญิง อรุณี นิลมัย สมรสกับนางจิตติมาพร นิลมัย มีธิดา 2 คน คือ นางสาวพิมพ์บุญ นิลมัย และนางสาวศุภิสร นิลมัย พลเอก สุเมธ นิลมัย สำเร็จการศึกษาชั้นมัธยมศึกษาตอนต้นจากโรงเรียนทวีธาภิเศกในรุ่นที่ 83 หลังจากนั้นได้เข้ารับการศึกษาในโรงเรียนเตรียมทหารเป็นรุ่นที่ 20 และเข้าศึกษาต่อในโรงเรียนนายร้อยพระจุลจอมเกล้า เป็นรุ่นที่ 31 พลเอก สุเมธ นิลมัย บรรจุเข้ารับราชการครั้งแรกเมื่อปี พ.ศ. 2527 ณ กองพันทหารสื่อสารที่ 1 รักษาพระองค์ และต่อมาได้รับราชการในตำแหน่งต่าง ๆ อาทิ อาจารย์โรงเรียนทหารสื่อสาร
เมื่อปี พ.ศ.2534 อาจารย์โรงเรียนเสนาธิการทหารบก เมื่อปี พ.ศ.2537 ผู้บังคับกองพันทหารสื่อสารที่ 9 เมื่อปี พ.ศ.2543 ผู้บังคับกองพันทหารสื่อสารกองบัญชาการทหารสูงสุด กรมการสื่อสารทหาร เมื่อปี พ.ศ.2547 ผู้อำนวยการสำนักแผนและอำนวยการสื่อสาร กรมการสื่อสารทหาร เมื่อปี 2557 เจ้ากรมการสื่อสารทหาร เมื่อปี 2561 และท้ายที่สุดได้รับการโปรดเกล้าฯ ให้ดำรงตำแหน่งผู้ทรงคุณวุฒิพิเศษ กองบัญชาการกองทัพไทย เมื่อปี 2564
พลเอก สุเมธ นิลมัย ได้เข้ารับการศึกษาหลักสูตรต่าง ๆ ที่สำคัญ เช่น หลักสูตรชั้นนายพันเหล่าทหารสื่อสาร ณ Fort Gordon มลรัฐ Georgia ประเทศสหรัฐอเมริกา เมื่อปี พ.ศ.2534 หลักสูตรเสนาธิการทหารบก หลักสูตรหลักประจำชุดที่ 72 เมื่อปี พ.ศ.2537 หลักสูตรเสนาธิการทหารบกออสเตรเลีย ณ Fort Queenscliff รัฐ Victoria ประเทศออสเตรเลีย และหลักสูตรปริญญาโท สาขา Defence Studies มหาวิทยาลัย Canberra ประเทศออสเตรเลีย เมื่อปี พ.ศ.2541 หลักสูตรเสนาธิการทหาร รุ่นที่ 50 เมื่อปี 2552 และหลักสูตรป้องกันราชอาณาจักร เมื่อปี 2558 พลเอก สุเมธ นิลมัย ได้รับพระราชทานเครื่องราชอิสริยาภรณ์สำหรับบำเหน็จความชอบในราชการแผ่นดิน ได้แก่ เครื่องราชอิสริยาภรณ์อันมีเกียรติยศยิ่งมงกุฎไทยชั้นมหาวชิรมงกุฎ และเครื่องราชอิสริยาภรณ์อันเป็นที่เชิดชูยิ่งช้างเผือกชั้นประถมาภรณ์ช้างเผือก
ผลงานสำคัญบางประการที่ผ่านมา พลเอก สุเมธ นิลมัย ได้ดำเนินการและสนับสนุนการพัฒนาขีดความสามารถของกองทัพไทยโดยเฉพาะในด้านการสื่อสารและเทคโนโลยีสารสนเทศ ทั้งในระบบควบคุมบังคับบัญชาและระบบสารสนเทศเพื่อการบริหารงาน พัฒนาและขับเคลื่อนกองบัญชาการกองทัพไทยเพื่อมุ่งไปสู่ Digital Headquarters ตลอดจนการพัฒนาความเป็นอยู่ของข้าราชการในสังกัดทั้งในด้านการปรับปรุงสถานที่ปฏิบัติงานทั้งในส่วนกลางและส่วนภูมิภาค ซ่อมแซมปรับปรุงที่พักอาศัย สาธารณูปโภค สร้างอาชีพเสริมให้แก่ข้าราชการชั้นผู้น้อยและครอบครัว ตลอดจนส่งเสริมการศึกษาแก่บุตรหลานกำลังพล โดยมีหลักการทำงานที่สำคัญ คือ จะต้องเป็นคนดีก่อนที่จะเป็นคนเก่ง
พลเอก สุเมธ นิลมัย ได้รับการคัดเลือกจากคณะกรรมการพิจารณาคัดเลือกบุคคลดีเด่นของกองบัญชาการกองทัพไทย ให้เป็นบุคคลดีเด่น ประจำปีงบประมาณ 2563 บนหลักเกณฑ์ที่จะต้องเป็นผู้มีความรู้ความสามารถในการปฏิบัติงาน มีผลงานดีเด่น ปฏิบัติหน้าที่ที่สอดคล้องกับภารกิจและบทบาทของหน่วยจนเกิดผลดีต่อทางราชการจนเป็นที่ประจักษ์ในภาพรวมและเป็นที่ยอมรับของหน่วย เป็นผู้มีความซื่อสัตย์สุจริต เป็นผู้มีความประพฤติดีงาม มีวินัยดี และมีจรรยาบรรณในการปฏิบัติงาน
ตลอดจนมีมนุษยสัมพันธ์ดี และมีผลการปฏิบัติราชการไม่ต่ำกว่าร้อยละ 90 และในปีงบประมาณ 2564 พลเอก สุเมธ นิลมัย คงได้รับการคัดเลือกจากคณะกรรมการพิจารณาคัดเลือกบุคคลดีเด่นของกองบัญชาการกองทัพไทย ให้เป็นบุคคลดีเด่น ประจำปีงบประมาณ 2564 และในวันที่ 11 มี.ค. 2565 ได้รับเกียรติมอบรางวัลบุคคลดีเด่น จากพลเอกเฉลิมพล ศรีสวัสดิ์ ผบ.กองทัพไทย นับเนื่อง 2 ปีติดต่อกัน