Perpustakaan SMA Kolese Loyola Semarang dengan Nomor Pokok Perpustakaan (NPP) 3374011E2000001 berdiri sejak tahun 1957, didirikan oleh Pater Bastiaanse SJ. Sejak awal para pimpinan kami ( Ketua Yayasan dan Kepala sekolah) sangat memperhatikan dan mendukung sekali dengan perpustakaan, terbukti dari tahun ke tahun selalu dapat perhatian yang luar biasa.

Pada tahun 1987 SMA Kolese Loyola membangun gedung perpustakaan 3 lantai di tempat yang strategis yaitu di dekat pintu masuk sebelah kiri gedung sekolah. Perpustakaan terletak di lantai 2 dan 3, sementara lantai 1 digunakan untuk teater terbuka. Lantai 2 terdiri dari Ruang Koleksi, Ruang Baca, Ruang Sirkulasi, Ruang Pengelolaan, Kantor Perpustakaan, dan Gudang. Sedangkan lantai 3 terdiri dari Ruang baca/Ruang Belajar Mandiri dan Ruang Audio Visual.

Tahun 2006 gedung perpustakaan direnovasi, perpustakaan di pindahkan di gedung yang sama strategisnya yaitu di pintu masuk sebelah kanan gedung sekolah. Karena letaknya yang strategis dan gedungnya juga memadai maka perpustakaan bertahan sampai bulan Agustus 2019. Pada 2019 - 2022, perpustakaan kembali ke gedung semula yaitu di gedung Markus lantai 2, karena gedung yang terakhir digunakan akan dirobohkan dan dibangun gedung baru perpustakaan.

Dan setelah melalui proses pembangunan yang cukup lama, akhirnya perpustakaan kembali menempati gedung baru bernama Joseph Pignatelli Loyola Student Center yang berada di antara gedung Ignasius dan Kanisius. Gedung dengan gaya arsitektur yang unik ini diresmikan pada Agustus 2022. Gedung perpustakaan ini terdiri dari lantai basement sebagai ruang sirkulasi dan referensi, ruang baca, ruang baca lesehan, pojok Ignasian, area koleksi kuno, serta ruang pustakawan. Selanjutnya di lantai 1, terdapat ruang multimedia dan audio visual serta ruang rapat. Terakhir, di lantai 2 digunakan sebagai ruang pertemuan dan workshop.