眾所周知，固始自古以來觀音文化盛行，境內有許多觀音洞、觀音閣，很多家庭也有請觀音、供奉觀音的傳統，而許多人卻不知道，固始觀音文化有2000多年歷史，可以追溯到漢高祖劉邦時代。
據固始小南海寺相關資料記載，公元前203年楚漢戰爭，激戰固始（古蓼城）過程中，慌不擇路的劉邦不慎落井，觀音菩薩即刻顯聖施妙法，劉邦腳未溼，井口出現蜘蛛網，漢皇帝也保住性命。劉邦登基做了皇帝後，此事時刻縈繞心頭，整日寢食難安、坐臥不寧，為酬謝觀音菩薩救命之恩，於公元前201年春季的一天，下諭旨在古城固始建了一座觀音廟。寺廟佔地面積五畝之多，一宅三院，善男信女絡繹不絕，香火鼎盛，風靡整個蓼城。
固始人都知道，城東的東門坎子在古時候是城牆和護城河所在地，因此地勢低洼。觀音顯聖地就在城牆根東南角，因此即使觀音廟被破壞，來燒香的信眾卻並沒有減少。
據寺院的華晨法師說，直到現在，小南海觀音寺都延續著這個習俗，許多人半夜3、4點（寅時）來敬香，古語有道：「聞雞起早，寅時卯時醒目」，第一根早香是當地信眾們不變的傳承。
慢慢地，因為燒香者眾多，這裡就又建起了一座約200多平方的小南海觀音廟。
直到2002年農曆8月16日，為了重振宗風，在外出家的釋了了法師於回到此地，向上級申請並在2005年9月正式將小南海觀音廟更名為小南海觀音寺，同年12月份正式組建成立固始縣佛教協會，會址就設在小南海觀音寺。
釋了了法師對固始觀音文化的發展做出了巨大的貢獻，心地仁慈的他，給寺裡定了一條規矩，每個月初一、十五都會免費施粥，從早上4點鐘一直持續到8、9點，也會吸引很多老年人過來。如今了了法師80多歲高齡，卻依然紅光滿面、精神矍鑠。
小南海觀音寺的門前曾經有兩道兩米寬的小溪，水清澈透明，與桃花塢水庫相連，只是現在這兩條小溪被填起來了，取而代之的是一座座民房。現在的觀音寺對面是一座土地廟，保佑一方風調雨順、五穀豐登。
小南海寺有一個正門及一個小門。正門對面是齋堂，從正門進去右邊就是居士寮，初夏季節，裡面的石榴花開得正好。
從居士寮上樓梯就是大殿，這處大殿於2008年建立至今，已有11年，2018年曾修繕過一次，其中的釋迦摩尼佛、藥師佛、阿彌託佛三位大佛是2009年請過來的。在大殿兩邊供奉的是長生牌位和往生牌位，保佑現世和已故之人。
大殿往左走是四個小殿，每個小殿中都供奉著相應的神像，旁邊掛滿了信眾期待美好生活的祈福牌。特別是娘娘廟中的三位娘娘，傳說曾在固始山區顯過靈，也是當地人最信奉的。
從娘娘廟旁邊的階梯上去是西方三聖牌位，這三聖是2018年請過來的。旁邊的一棵刺槐樹因為有九個樹枝，看起來很像龍的形狀，特別是在秋天的夜晚，清朗皓月下，宛若遊龍，因此，寺裡也叫它龍形樹。
寺院的偏門較小，不注意的話，還真不容易發現。偏門進去便是念佛堂，每天下午都會有許多信眾來念經。
在寺院正門和偏門中間，有一棵合歡樹，頂如傘蓋，蒼翠挺拔。據了了法師說，這是一棵吉祥樹，因為此樹能夠吸引方圓50裡地的靈氣。
如今，觀音寺香火鼎盛，每日來燒香拜佛者絡繹不絕。為了方便信眾結緣，寺廟設置了專門的圖書室和影像室，每年能結緣1、2萬冊書籍。
說到寺裡的圖書，大部分都是捐過來的，包括字畫等，其中不乏大家手筆，固始縣著名畫家呂志國《六祖達摩圖》、著名書法家段寶林部分手跡就位列其中。寺裡還有一座清代末年的觀音雕像，也是發現者捐的。
破舊立新，風雨無阻，如今的小南海寺在固始縣觀音文化中佔有重要一席，也越來越成為許多人美好的精神歸宿。每逢觀音聖誕，即使是在凌晨12點，也阻擋不了眾多朝拜者的誠心。
無論前世，還是今生，觀世音菩薩慈悲善良、救苦救難的形象深深植根於廣大人民群眾特別是固始人心中。小南海觀音寺在弘揚佛法的同時，更多地是引導大眾向上向善，積極實踐，多行好事，以得菩薩垂佑，生活幸福美滿。而寺院也一直踐行這個理念，累計向汶川、玉樹等災區及個人捐款近20萬元，受到社會一致好評。
大美固始，觀音福地。如今的小南海觀音寺以老城改造為契機，背靠古城牆根，面對南海桃花塢，自然形成氣勢恢弘古建群，逐步建成小南海民族古文化一條街，成為人們賞古覽今、旅遊觀光又一道亮麗的風景。