Berdirinya SMP Pangudi Luhur Yogyakarta, tidak lepas dari datangnya para bruder FIC di Yogyakarta pada yanggal 20 September 1920. Para Bruder FIC tinggal di sebelah selatan Benteng Vredeburg (Jin. P. Senopati 18). Kedatangan lima (5) Bruder FIC dari Belanda, bertujuan untuk berkarya dalam bidang Pendidikan bagi anak-anak Indonesia. Disebutkan dalam buku sejarah (Donum Desursum): " ..... Dewan Umum (red: Pimpinan Pusat di Belanda) sudah setuju dengan berdirinya MULO (red: sekarang SMP) di Kidulloji, dengan syarat bahwa anak-anak Jawa diterima dahulu dan anak-anak Belanda atau ...... " Mula-mula para Bruder FIC mendirikan HIS atau yang dikenal dengan Sekolah Hindia Belanda yang sekarang setara dengan tingkat Sekolah Dasar.
Sebagai konsekuensi logis dari pendirian HIS maka para Bruder FIC mendirikan sekolah lanjutan yang waktu itu disebut MULO (Meer Uitgebreid Lager Onderwijs), diberikan pengajaran tingkat rendah yang lebih luas. Ditulis dalam buku sejarah: "Sesudah liburan besar tahun 1923 MULO itu dimulai dengan 25 murid. Ruang kelas masih ada." Inilah awal mula adanya SMP Pangudi Luhur 1 Yogyakarta.
Mula-mula Pastor· Serikat Yesus (SJ) telah mendirikan "Perkumpulan Kanisius" (sekarang Yayasan Kanisius) yang mengelola sekolah-sekolah Katolik di Yogyakarta. HIS dan MULO para Bruder
FIC pun bergabung dalam Yayasan Kanisius. Tetapi tanggung jawab ·\ untuk urusan persekolahan semuanya diserahkan kepada para Bruder FIC, bahkan kepemimpinan Percetakan Kanisius pun juga diserahkan kepada Bruder FIC. Pada tahun 1925, karena adanya perkembangan, maka MULO harus mencari tempat baru, yaitu di Gondomanan. Namun dalam perjalanan sejarah semakin dirasakan akan kebutuhan untuk memiliki tempat sendiri. Sejarah menulis: " ..... sudah jelas MULO membutuhkan gedung sendiri. Maka perlu membangun lagi, lebih-lebih karena dalam bu Ian Maret 1926 MULO Bruderan disamakan dengan MULO Pemerintah, sehingga ijazahnya akan memberi wewenang yang sama." Maka pada tahun 1927 dibangunlah gedung MULO di antara Bruderan dan HIS (sekarang SD Pangudi Luhur). Bangunan itu amat kuat, berlantai dua dan terdiri dari 8 (delapan) ruang kelas dan 2 (dua) ruang khusus. Bangunan itu sekarang digunakan untuk SMA Pangudi Luhur Yogyakarta.
"Januari 1928 MULO menempati gedungnya sendiri; 2 Februari diadakan Pemberkatan Liturgis. Pada 3 Februari diadakan pembukaan resmi. Betapa pentingnya MULO Bruderan dibuktikan dengan jelas sekali karena tamu agung yang menghadiri upacara pembukaan. Paduka Yang Mulia Sri Sultan Abdurahman Hamengkubuwana VIII sendiri datang. Di samping tamu yang mulia itu maka tamu dari pihak Belanda tidak begitu penting: residen, asisten-asisten dan Tuan Inspektur MULO. Sampai Perang Dunia II, MULO Kidulloji menjadi sekolah kebanggaan masyarakat Katolik di Yogya. Bahkan pada zaman krisis, ketika pemerintah merasa perlu membatasi penerimaan murid baru, Yogya masih dapat mempertahankan dua kelas satu. Tahun 1936 bahkan diputuskan untuk melengkapi MULO dengan asrama."

Pada masa penjajahan Jepang kekuatan Belanda runtuh. Sekolahsekolah misi ditutup dan gedung-gedung mengalami kerusakan. Para Bruder Belanda diinternir/ditahan di beberapa kota. Tinggal dua orang Bruder tinggal di bekas asrama MULO. "Bulan Maret 1942 segala macam sekolah Eropah dibubarkan .... MULO itu hilang, karena sekolah Menengah Katolik tidak diperbolehkan. Kemudian tentara Jepang mengambil alih semua bangunan .... " Pada tahun 1945 tentara Nippon mulai lunak dalam tindakannya. Hal ini memberi peluang untuk mencari lagi MULO yang hilang. Gedung-gedung yang dahulu diambil alih Jepang dalam bulan Juli 1945 bisa didapatkan kembali, walau ruang-ruang kelas menjadi kosong. "Te?lebih dahulu gedung MULO dibersihkannya enam ruang, di bawah ditentukan untuk Sekolah Rakyat sempurna, dan di ruang atas untuk Sekolah Menengah .... " "Akhirnya pada akhir bulan Oktober sekolah dapat dibuka lagi. Bebrapa guru masih takut karena kampung mereka belum cukup aman ... "
"Apa yang dipertahankan pada semasa perang mulai berkembang lagi dalam tahun 1949, .. " MULO yang telah berganti nama menjadi SMP Putera Kidulloji, menjadi kebanggaan pendirinya, Br. Mario. SMP Putera Kidulloji menjadi terkenal, terbesar, terbaik yang dipegang pihak Misi di Yogyakarta waktu itu. Karena waktu itu di kompleks SMP mulai didirikan SGA, maka timbulah ketegangan­ketegangan. Oleh karena itu pada tahun 1954 Kongregasi Bruder FIC membeli tanah di daerah Baciro yang saat ini menjadi tempat beromisilinya SMP Pangudi Luhur 1. SMP Pangudi Luhur masih dibawah Yayasan Kanisius walaupun secara internal pengelolaannya oleh para Bruder FIC. Pada tahun 1954 para Bruder FIC mendirikan Yayasan Pangudi Luhur untuk mengurusi sekolah-sekolah yang dikelolanya. Maka pada tanggal 1 Agustus 1955 penyelenggaraan SMP Pangudi Luhur diserahkan kepada Yayasan Pangudi Luhur. Mulai saat itulah SMP ini memiliki nama SMP PANGUDI LUHUR. Dalam perkembangan sekitar tahun enampuluhan SMP Pangudi Luhur membuka "kelas jauh" bertempat di sekitar Gereja Katolik Baciro. Kelas jauh tersebut pengelolaannya dipimpin oleh seorang Suster, namun karena Dinas Pendidikan mencabut surat izin pelaksanaan kelas jauh, maka tanggal 1 Juli 1983 SMP Pangudi Luhur menjadi SMP Pangudi Luhur 1 dan SMP Pangudi Luhur 2. SMP Pangudi Luhur 1 sebagai sekolah yang dikelola oleh Yayasan Pangudi Luhur (para Bruder FIC) dan SMP Pangudi Luhur 2 dikelola oleh yayasan milik Para Suster Santo Dominicus. Secara internal SMP Pangudi Luhur 1 dan SMP Pangudi Luhur 2 berdiri sendiri bersama dengan yayasan masingmasing. Mulai tahun 1980 Yayasan Pangudi Luhur mulai mendirikan bangunan untuk SMP.
Tahun 1982 gedung sudah mulai ditempati walaupun pembangunan belum selesai. Setelah semua pekerjaan pembangunan selesai maka pada tanggal 6 Agustus 1983 gedung itu diresmikan untuk. SMP Pangudi Luhur 1, hingga sekarang. Prasasti ditandatangani oleh Br. Redemptus Lastiya, FIC, Pemimpin Para Bruder FIC Provinsi Indonesia.