AGÜ, Türkiye'de ilk vakıf destekli devlet üniversitesi modeli ile 21 Temmuz 2010 tarihinde kurulmuştur. Üniversite, Türkiye Cumhuriyeti'nin ilk ve en büyük sanayi yerleşkelerinden biri olan Sümerbank Bez Fabrikası’nın eğitim kampüsüne dönüşümü projesidir. İlk öğrencilerini 2013-2014 akademik yılında almıştır. Üniversitenin ikinci kampüsü olan Mimar Sinan Kampüsü'nün yapımı da devam etmektedir. Kayseri'ye yeni bir devlet üniversitesi kazandırılmasına yönelik çalışmalar, Büyükşehir Belediye Başkanlığı girişimiyle bir araya gelen Kayseri'nin kanaat önderleri tarafından 2007 yılında başlatılmıştır. Üniversitenin, kalkınması ve girişimciliği ile Türkiye'de örnek gösterilen Kayseri'nin vizyonuna uygun olarak, kenti eğitimde de öne çıkarması amaçlanmış, Türkiye'nin 11. Cumhurbaşkanı Sayın Abdullah Gül'ün adını taşıması düşünülmüştür. Cumhurbaşkanımız, bu üniversitenin Türkiye yükseköğretiminde fark yaratacak, uluslararası alanda rekabet edebilecek kaliteli bir üniversite olması şartıyla bu teklifi uygun görmüştür.
Uluslararası düzeyde eğitim ve araştırma yapan bir kurum olması hedeflenen AGÜ'yü yeni bir model olarak ortaya çıkaran en önemli unsurlardan biri AGÜ Destekleme Vakfı'dır (AGÜV). AGÜV 13 Temmuz 2011 tarihinde kurularak, üniversitenin gelişimine paralel ve etkin bir destek sağlamak üzere çalışmalarına başlamıştır.