Dinas Perpustakaan dan Kearsipan Kota Yogyakarta berdiri berdasarkan Peraturan Daerah Kota Yogyakarta Nomor 5 Tahun 2016 tentang Pembentukan dan Susunan Perangkat Daerah Kota Yogyakarta, dan ditindaklanjuti dengan Peraturan Walikota Nomor 86 Tahun 2016 tentang Susunan Organisasi, Kedudukan, Tugas, Fungsi dan Tata Kerja Dinas Perpustakaan dan Kearsipan Kota Yogyakarta. Dinas Perpustakaan dan Kearsipan Kota Yogyakarta terdiri dari dua sub urusan yaitu urusan perpustakaan dan urusan kearsipan. Pada tahun 2020, Dinas Perpustakaan dan Kearsipan Kota Yogyakarta mengalami perubahan kelembagaan yang berdasarkan Pasal 3 nomor 15 pada Peraturan Daerah Nomor 4 Tahun 2020 tentang Perubahan atas Peraturan Daerah Nomor 5 Tahun 2016 tentang Pembentukan dan Susunan Perangkat Daerah Kota Yogyakarta yang berbunyi bahwa Dinas Perpustakaan dan Kearsipan Tipe A yang menyelenggarakan urusan pemerintah bidang perpustakaan dan bidang kearsipan.