Kamu hizmetindeki kariyerine Mülki İdare Amirliği mesleğiyle başlayan Atay, Samsun’un Kavak, Isparta’nın Aksu ve Kırşehir’in Çiçekdağı ilçelerinde kaymakam vekilliği görevlerinde bulunmuştur. Ardından Çorum’un Oğuzlar, Malatya’nın Arguvan ve Doğanşehir ile Trabzon’un Çaykara ilçelerinde kaymakam olarak devletin yerel yönetim hizmetlerine katkı sağlamıştır.
Atay, mülki idare yönetimindeki tecrübesini daha da derinleştirmek üzere İller İdaresi Genel Müdürlüğü bünyesinde şube müdürlüğü ve daire başkanlığı gibi üst düzey idari sorumluluklar üstlenmiştir.
9 Haziran 2020 tarihli Cumhurbaşkanlığı kararnamesiyle Düzce Valisi olarak atanan Atay, burada görev yaptıktan sonra 2023 yılında Şırnak Valiliği’ne atanmıştır. Daha sonra 2024 yılında Vali-Mülkiye Başmüfettişi olarak merkezi denetim görevinde bulunmuştur.
20 Şubat 2026 tarihli Resmî Gazete kararnamesiyle Cevdet Atay, Gümüşhane Valisi olarak yeni görevine atanmıştır. Bu atama, uzun yıllara yayılan mülki idare hizmeti ve farklı coğrafyalarda edindiği kapsamlı deneyim üzerine yapılmıştır.
Atay, Türkiye’nin farklı illerinde kaymakamlık ve valilik görevlerinde bulunmuş deneyimli bir yönetici olarak tanınmakta ve Gümüşhane’deki yeni görevine başlamıştır.