В создании галереи принял участие ценитель искусства, сухумский врач Езекиэль Лазаревич Фишков. Он передал в дар галерее часть своего дома (ул. Пушкина, 24) и 60 картин. В коллекции Фишкова были работы русских художников — Б. Петрова, В. Контарева, О. Сегаль и другие. Они посетили Абхазию в начале ХХ века.

К открытию галереи художники Абхазии М. Эшба, О. Брендель, И. Цомая, В. Иванба и другие подарили свои произведения. В трех залах экспонировалось 100 картин и 20 скульптурных работ.

С годами фонды галереи систематически пополнялись работами художников Абхазии.

В ее экспозиции и фондах были представлены произведения, характеризующие развитие изобразительного искусства Абхазии начиная с  эпохи средневековья - копии фресок Лыхненского храма: «Іроица», «Шествие Авраама с сыном», «Святой Никифор», «Святой Исидор».

Ценнейший фонд коллекции составляли до 300 работ Александра Чачба (Шервашидзе).

В фонде галереи было более четырех тысяч работ таких известных мастеров живописи и скульптуры, как Варвара Бубнова, Борис Петров, Владимир Контарев, Марина Эшба, Виталий Лакрба, Тариел Ампар, Хута Авидзба, Сергей Габелия, Валерий Гамгия, Виталий Джения, Амиран Адлейба, Юрий Чкадуа, Ольга Брендель, Леварса Бутба и др.

17 мая 1985 года — в день перезахоронения в Сухуме останков выдающегося абхазского художника А. К. Чачба-Шервашидзе (1867-1968) экспозиция Картинной галереи была перенесена в помещение по ул. Лакоба, 31, где сейчас располагается Союз художников Абхазии.  

После Отечественной войны народа Абхазии 1992-1993 гг. экспозиция галереи закрылась.

В 1994 году Картинная галерея Абхазского государственного музея была переименована в Национальную картинную галерею и стала самостоятельным государственным учреждением.

В 1997 году по решению первого президента Абхазии Владислава Григорьевича Ардзинба Национальной картинной галерее было выделено здание бывшей дореволюционной женской гимназии по ул. Пушкина, 8. Вскоре начались первые ремонтные работы в здании, но вскоре были остановлены из-за нехватки средств.

Картины из фонда галереи хранились на втором этаже здания ЦВЗ по ул. Лакоба.

В разные годы галерею возглавляли Алексей Аргун, Леонид Еник. С 2001 года директорм Национальной картинной галереи является Сурам Сакания.

В результате пожара, произошедшего ночью 21 января 2024 года, Абхазия лишилась фондов Национальной картинной галереи. В пожаре уцелело до 150 работ. Их перенесли в помещение Национальной библиотеки им. И. Папаскир.

25 января на помощь абхазским коллегам прибыла группа российских реставраторов во главе с замдиректора Департамента музеев и внешних связей Минкульта РФ Натальей Чечель. В состав делегации входили заведующие отделами реставрации и специалисты по реставрации Третьяковской галереи, Русского музея, Центра им. Грабаря и Государственного НИИ реставрации.

Специалисты осмотрели уцелевшие после пожара картины, сфотографировали их, выделили те, что можно будет отреставрировать здесь на месте, а также те, которые надо будет вывезти для восстановления в Россию.

В этом году планируется восстановить несколько помещений на втором этаже здания по ул. Пушкина, чтобы разместить в нем сотрудников Национальной картинной галереи и часть уцелевших картин.