本館建築為一棟二層樓古典建築，於1954年即作為圖書館用途。2003年因應高雄市政府文化局強調都市美學空間的營造，並媒合文建會加強公共圖書館空間改善計畫，將原高雄市立圖書館第二總館正式更名為「高雄文學館」，是全台首座以城市命名的文學館，並開始兼具地方文化館身份，負責保存推廣高雄作家、高雄文學，辦理文學家駐館講座、高雄作家作品展等。
2018年隨高雄市立圖書館一同正式轉型為行政法人營運。2020年獲「博物館與地方文化館發展計畫」補助重新整修、逐步由文學圖書館型態轉型為專業型館舍。2021年進一步以「文學的地方想像」為長程目標，深入地方文史的內涵、轉化高雄文學特色主題為更多元形式的活動及展覽，持續推動五條發展線：文學品味、地方紀實、典藏轉譯、跨藝實驗，社群培力。
