Perpustakaan SMA Negeri 2 hadir di kota Ambon tentunya mengikuti instansi induk yang membawahinya yaitu SMA Negeri 2 Ambon. 

Hadirnya SMA Negeri 2 Ambon di Provinsi Maluku merupakan wujud usaha dan perjuangan anak daerah Maluku yaitu Bapak. F. Ch. Manusama, Bapak. M. A. Risakotta, Bapak. C. Pieter, Bapak. J. P. Pattikawa. Pada tahun 1953 di kota Ambon berdiri sebuah Sekolah Menengah Atas yang adalah peralihan dari AMS (Algemene Middelbare School). Peninggalan pemerintah kolonial Belanda yang berlokasi pada jalan Pattimura. Sekolah ini dipimpin oleh Bapak M. A. Risakotta.

Selanjutnya pada tahun 1955 terjadi pergantian pimpinan dari Bapak M. A. Risakotta kepada Bapak C. Pieter. Sesuai perangkat penunjang pendidikan yang ada pada waktu itu, maka SMA yang dipimpin oleh Bapak C. Pieter ini hanya ada program / jurusan B ( Ilmu Bumi dan IPA)

Lalu pada tahun 1957 atas usaha Bapak C. Pieter ke tingkat pusat maka didapatlah persetujuan untuk SMA yang dipimpinnya  membuka dan melaksanakan 3 program / jurusan yaitu : Jurusan A (Bahasa dan Budaya), Jurusan B (Ilmu bumi dan IPA), dan Jurusan C (IPS).

Kemudian pada tahun 1958 sesuai perkembangan, sekolah ini harus dimekarkan menjadi 2 Sekolah Menengah Atas. SMA tersebut adalah :
1. SMA Negeri 1 Ambon yang menengani program / jurusan A dan B dan tetap dipimpin oleh Bapak C. Pieter
2. SMA Negeri 2 Ambon yang menengani program / jurusan C yang didpimpin oleh Bapak J. P. Pattikawa.

Kedua sekolah ini tetap di lokasi yang sama namun pintu gerbang SMA Negeri 1 Ambon menghadap ke jalan Pattimura sedangkan SMA Negeri 2 Ambon, pintu gerbangnya menghadap ke Jalan Jan Paays. Dengan kata lain kedua sekolah ini saling membelakangi.

Dari Tahun 1958 inilah Perpustakaan SMA Negeri 2 Ambon hadir. Tantunya untuk menjawab kebutuhan seluruh warga sekolah tetapi terlebih utama adalah peserta didik. Sesuai konteks pada masa itu SMA Negeri 2 yang melayani peserta didik jurusan IPS. Tetapi perpustakaan SMA Negeri 2 tidak hanya menyediakan buku-buku IPS saja melanikan semua buku yang menjadi kebutuhan warga sekolah.

Dari berdirinya Pengelola perpustakaan yang ditugaskan di perpustakaan merupakan tenaga funsional guru yang membekali dirinya dengan diklat perpustakaan baik dari Kementrian Pendidikan, Dinas Kearsipan Provinsi Maluku maupun Dinas Kearsipan Kota Ambon.  

Siring berjalannya waktu perpustakaan SMA Negeri 2 Ambon terus berusaha menjawab perkembangan jaman yang terus bergulir. Salah satunya perkembangan teknologi yang begitu pesat sehingga pada tahun 2020 perpustakaan SMA Negeri 2 Ambon membuat sistem pencarian buku dengan OPAC slims 8 Akasia, namun itupun hanya bebasis LAN. Dengan harapan di tahun-tahun berikutnya sistemnya bisa dinaikan menjadi Online.