ローマ時代、この街は「コンプルトゥム」と呼ばれていました。ローマ帝国の支配下、街はエナレス川の水利、新たな交通の要路、また農業によって、400年間にわたる繁栄の時代を迎えました。ローマに続いてやってきたアラブ人たちは、紀元850年にナハールにアルカラット城を建設、これがアルカラという街の名前の由来になっています。
キリスト教側によるレコンキスタの時代、タホ川渓谷の防衛の拠点としての重要性から、アルカラには城壁が建設され、新しい建物が建てられます。城壁の中には、ユダヤ教徒、イスラム教徒、キリスト教徒が、それぞれに地区をつくって暮らしていました。13世紀になるとアルカラはトレド大司教の所領の1つとなり、大司教館が建てられ、活発な経済活動が展開する重要都市となりました。
1293年、サンチョ4世(Sancho IV)はアルカラに「総合学校」設立の特権を与えます。こうして学問都市アルカラの歴史が始まり、シスネロス枢機卿によるコンプルテンセ大学の設立(1499年)をもって、その最盛期を迎えます。アルカラは学生や寮、そして数々の修道会が集まる町となります。当初は宗教や神学が中心で、教会関係者による教育が重要な役割を担いますが、大学はやがて人文学、法学、文学の研究が盛んとなり、ケベド(Quevedo)や聖イグナシオ・デ・ロヨラ(San Ignacio de Loyola)、聖トマス・デ・ビジャヌエバ(Santo Tomás de Villanueva)らがここに学びます。1836年には各学部がマドリードに移されます。その後衰退の一時期を経て、20世紀半ばには産業化と大学都市への復帰により、復興が始まりました。