Bereits im frühen Mittelalter erhob sich eine kleine Kirche auf der vorgelagerten Rheininsel.
Durch die Zuschüttung der Lagerhallen der römischen Rheininsel durch Erzbischof Bruno I. fand der alten Rheinarm Anschluß an das Stadtgebiet. Damit war die Voraussetzung für die Anlage eines befestigten Marktviertels geschaffen. Die bisherige Kirche ersetze er durch eine gößere, die er mit dem von ihm errichteten Stift St. Martin verband. Wenig später traten Benediktiner aus Mönchengladbach an die Stelle der Stiftsherrn Von 1150 bis 1240 entstand über den römischen Bauten die Kirche des Benediktinerklosters Groß St. Martin. Nach einem Brand entstand zwischen 1150 und 1250 ein Neubau, dessen Kernstück, der Dreikonchenhor, 1172 geweiht wurde. Ausgezeichnet vor allem durch den großen Vierungsturm und die Dreikonchenanlage, bildet auch heute noch neben den Domtürmen Groß St. Martin einen wichtigen Akzent im Kölner Stadtpanorama und prägt das Gesicht der Altstadt.