2006年的今天，一位19岁的门将从什鲁斯伯里加盟曼城，当时很少有人能预见他日后能达到的高度。等到职业生涯落幕时，乔·哈特已是两届英超冠军得主，还捧起了足总杯和联赛杯，并拥有75次英格兰队出场纪录，其中三次大赛担任主力。
在加盟曼城之前，哈特已经是什鲁斯伯里一线队的常客，出战54场，包括2005/06赛季的全部联赛比赛。他中学最后一年担任级长，也曾是伍斯特郡板球俱乐部青年队的一员，后来才专注足球——似乎注定要走向成功。
2006年夏天，他北上曼彻斯特，迎接的是英超的聚光灯和激烈竞争。这种挑战要么成就职业生涯，要么毁掉它。曼城的签约经过充分考察，主教练斯图尔特·皮尔斯和门将教练蒂姆·弗劳尔斯曾多次前往盖伊草地球场现场侦察。
加盟第一年，哈特要与瑞典国门安德烈亚斯·伊萨克松、俱乐部宠儿尼基·韦弗以及另一位未来的英超冠军得主卡斯帕·舒梅切尔争夺主力位置。加上曼城刚以第15名结束赛季，哈特的到来并没有引起太多关注。
2006年10月，他在曼城首秀零封谢菲尔德联（0-0），但那是他该赛季唯一的一线队出场。2007年夏天，韦弗离队，阵中剩下哈特、舒梅切尔和伊萨克松。斯文-戈兰·埃里克松清楚两位年轻人的实力，赛季初让舒梅切尔把守大门，哈特则出战联赛杯前两轮。第二轮对阵诺维奇的零封表现，让他赢得了此后赛季的主力位置。
哈特身材强壮，一头金色短发竖立，场上存在感十足，浑身散发着自信。有趣的是，他早期的精彩扑救颇有彼得·舒梅切尔的风范——张开四肢像海星一样封堵来球。那个赛季他各项赛事出场32次，并让伊萨克松最终转投PSV埃因霍温。
2008年夏天曼城巨变，谢赫·曼苏尔入主俱乐部，马克·休斯成为哈特两年内的第三任主帅。哈特原本是休斯阵中的铁打主力，但2009年1月沙伊·吉文从纽卡斯尔加盟，这位老门将在英超证明了自己十多年的顶级实力。吉文自然接管了剩余赛季的主力位置，哈特陷入两难。
为了争取英格兰队认可，哈特在2009/10赛季租借到升班马伯明翰城。这次租借堪称完美：他出场36次，入选PFA年度最佳阵容，并当选伯明翰赛季最佳球员，帮助球队以第九名结束重返英超的首个赛季。这样的表现让他进入英格兰2010年世界杯大名单，作为第三门将随队出征。
带着丰富的经验，哈特2010/11赛季重返曼城，又遇到新主帅罗伯托·曼奇尼。在曼城冲击英超顶级的阶段，哈特与吉文谁该首发成了赛季前的焦点话题。最终曼奇尼选择了年轻人。外界高度关注，评论员们坚持认为吉文应该上场，但哈特却交出了英超历史上最出色的个人门将表现之一——在托特纳姆热刺的白鹿巷球场，他力保城门不失，帮助球队0-0战平对手。