2001 yılında ise Galatasaray'a transfer oldu ve yine takımının şampiyonluğa erişmesinde büyük pay sahibi oldu. 2004-2005 sezonunun ikinci yarısında Galatasaray'ın antrenörü Gheorghe Hagi ile anlaşmazlıklar sonucu Borussia Mönchengladbach, Hannover 96 ve Arminia Bielefeld ile sözleşme için masaya oturdu. Ancak Ümit Karan Bundesliga takımlarının tekliflerini geri çevirerek; son anda Büyükşehir Belediye Ankaraspor ile anlaştı. 2005 sezonunun sonuna kadar Ankaraspor için oynayan Ümit Karan, kiralık sözleşmesinin sona ermesiyle tekrar Galatasaray'a döndü.
2005-2006 sezonunda ise tekrar Galatasaray için oynamaya başlayan Ümit Karan, sezon içinde attığı 18 gol ile gol krallığına aday oldu. Ama geçirdiği sakatlık nedeniyle sezonu kapatarak gol krallığına da veda etmek zorunda kaldı.2006-2007 sezonunun başında takımdaki yerini geri aldı ve Turkcell Süper Ligi'ndeki 100. golünü 18 Eylül 2006 'da Beşiktaş Jimnastik Kulübü'ne karşı kaydetmiştir.2006-2007 sezonunda Galatasaray ile Şampiyonlar Ligi'nde sahaya 3 maçta kaptan olarak çıktı. İngiltere'de oynanan Liverpool-Galatasaray maçında attığı 2 golle dikkatleri üzerine çekti.Fakat takımını mağlubiyetten kurtaramadı.2008-2009 sezonundan itibaren Hakan Şükür'den kaptanlığı devir almıştır.
2009/2010 sezonu için Eskişehirspor ile 3 yıllığına anlaşmıştır.