以前，青島市的體育場館屈指可數，如市立體育場(第一體育場)，市民眾教育館體育場(現泰山路第一小學址)，內設籃球、排球、網球場。市國術館，位於廣東路1號；匯泉跑馬場，包括田徑、高爾夫球、曲棍球、網球、棒球、足球場；還有廣西路14號原電報局籃球場，湛山高爾夫球場，各紡織廠球場，湛山村以南的第四海水浴場和新疆路小港以北的第五海水浴場等。這些場館多建於30年代，設施落後，後來這些場館大都移作它用，不復存在了。
解放後，青島市政府修建了第二體育場和海泊河體育場，市級3大體育場都建起了燈光籃球場。80年代，市政府進一步加大體育場館的建設，體育場館設施取得了前所未有的大發展。1986年，第一體育場增設燈光設備和塑膠跑道，隨之先後建成了體育館、遊泳館、室內田徑館、射擊靶場先後建成。1989年，市內已有足球場16個、體育館3個、遊泳館4個，海水浴場7個。新的場、館、池、房不斷增加。
作為一個計劃單列城市，80年當代前一直沒有一座像樣的體育館。1985年12月24日，青島市體育館破土動工，這是青島市內歷史上最大的室內體育館。體育館位於市南區武昌路,南臨匯泉灣,北依匯泉山，西鄰匯泉廣場，佔地約6公頃，總建築面積為18154平方米，其中比賽館12180平方米，練習館及其他輔助設施為2696平方米。體育館由青島市建築設計研究院設計,青島市第二建築工程公司施工。1990年11月14日建成驗收，共投資4530萬元。
該館外型近似艦船，平面又呈卵形。設計新穎，造型別致，功能齊備，設施先進。不僅可進行籃球、排球、桌球、羽毛球、體操等多項體育比賽，而且還可安排大型文藝活動。
館內有固定看臺588座,活動看臺766座。比賽場地32×44米,體育館的東、南、西、北四個方向均設有出入口,與一層門廳、休息廳相通;看臺下方的二層平面布置辦公室、輔助用房,地下層為設備用房及器械庫。
館內具備當時國內最先進的電聲、照明和空調控制系統。建築物周圍設5部疏散扶梯並配有寬大的室外平臺,平臺不僅起到緩衝人流的作用,而且可作為露天休息茶座或內庭綠化休憩空間,結合室外大面積綠化,廣場有噴泉、雕塑等小品,形成了靈活可變的多元、多向優美環境空間。
比賽館屋蓋採用鋼筋混凝土交叉拱和兩個非對稱雙曲面懸索網大跨空間結構。拱跨109米,拱頂距地26米。索網周邊以鋼筋混凝土矩形環梁拉結(梁截面1×2米)。基礎部分採用鋼筋混凝土預製樁。
建築設計巧妙利用交叉拱形成的菱形開口,作為比賽館的天然採光帶。採光帶之外的屋頂為6釐米厚複合板,表面刷湖綠色防腐塗料。建築造型與結構形成統一,建築物整體和諧、穩重,雕塑感強,表現了體育競技的力量和速度。該項工程榮獲山東省優秀工程一等獎。
青島體育館建成後，承辦了許多大型體育比賽、文藝演出、大型會議，組織舉辦了一些民間的文體活動等，豐富了市民的文體生活。
上世紀80年代末，筆者在四方區體委工作，同屬體育系統，與市體育館有一定聯繫。93年我們在剛落成的民辦新興體育館舉辦了一場島城拳擊爭霸賽，因拳擊臺陳舊，安裝時臺面塌陷無法使用，於是到市體育館求援，時任體育館館長的李學孟給予積極支持，將市體育館配套的拳擊臺無償提供使用，使比賽得以順利進行。後來市體育館也多次承辦了全國性的拳擊大獎賽。
體育館建成後，筆者多次參加過有關文體活動，觀看演出、體育比賽，館內音響效果，體育設施配套等在當時堪稱一流。市政府在這裡舉行過大型會議，市文化部門舉辦過大型文藝演出，市體育局也曾在這裡舉行過文體活動，如體育系統卡拉ok比賽等。
蘇聯解體後，體育館還承辦了一次俄羅斯的一個馬戲團的表演，在表演訓熊時，那隻大棕熊失去控制，馴獸師用電棍電擊，卻被熊一巴掌拍在肩上，馴獸師摔倒在地，引起觀眾一陣陣驚叫，後來多名馴獸師上去才把棕熊治服，演出也由此中斷，觀眾都遺憾的離開了會場。
青島市體育館建成後僅運行了13年，後計劃建一座大型體育館而拆除了。2003年12月27日，挖掘機先將市體育館附屬設施雙星羽毛球俱樂部牆體挖開，有關方面考慮到體育館臨近體育場、匯泉灣，地理位置比較特殊，因而放棄了主體爆破拆除的計劃，全部使用機械拆除，用了一個月的時間，2004年2月初體育館即消失了。