黃庭堅跟杜甫、陳師道和陳與義素有「一祖三宗」之稱。詩歌方面與蘇軾並稱「蘇黃」，書法方面，又與蘇軾、米芾、蔡襄並稱為「宋代四大家」是北宋時期著名的文學家、書法家，更是盛極一時的江西詩派開山之祖。所以黃庭堅在歷史上的北宋算得上是一個世人皆知的才子了。更令人稱羨的是，他出身在一個書香門第的進士之家，甚至因為家中曾經連續十人進士及第而被人們稱為「十龍及第」。
黃庭堅幼時聰穎早慧，屬於神童。他5歲就能背誦五經，「堅幼警悟，讀書五行俱下，數過輒憶。」他的父親黃庶追慕古代大哲，用上古時。舅父李常也是一位詩人兼藏書家使黃庭堅從小生長在文學空氣濃厚的書香家庭。他舅舅李常到他家，取架上的書問他，他沒有不知道的。李常非常奇怪，以為他是千裡之才，史記：」一日有千裡之功「。庭堅自小就深受文化的浸染，他的出類拔萃也就不令人感到意外了。
他七歲時就寫過一首震驚時人的《牧童詩》：「騎牛遠遠過前村，吹笛風斜隔岸聞。多少長安名利客，機關用盡不如君。」
嘉佑三年（1058年），其父黃庶在康州任上逝世。由於家境不太富裕，黃庭堅才十五歲，遂跟著舅父李常到淮南遊學。嘉佑六年，他在揚州認識詩人孫覺。孫覺推崇杜甫，認為杜甫的《北徵》詩勝過韓愈的《南山》詩。而另一詩人王平甫卻認為《南山》詩比《北徵》詩好，兩人反覆爭論，都不能說服對方，時值庭堅在座，兩位老人徵求他的意見，他說：「若論工巧，《北徵》不及《南山》。若書一代之事，以與《國風》、《雅》、《頌》相為表裡，則《北徵》不可無，而《南山》雖不作，未害也。「當時庭堅僅十七歲，而他一席之言，使兩位前輩心服口服，結束一場爭論。從此，孫覺非常讚美這位聰穎少年，後來就把自已的女兒蘭溪許配給他。
嘉佑八年，黃庭堅首次參加省試，落榜。英宗治平三年（1066年），黃庭堅再次參加省試。詩題是《野無遺賢》，主考李洵看到他試卷中的「渭水空藏月，傳巖深鎖煙」，不禁拍案叫好。說黃庭堅「不特此詩文理冠場，他日有詩名滿天下。」就此中了第一名。第二年春天，再到汴京參加禮部考試，中了三甲進士，從此登上仕途。
1067年，23歲的黃庭堅以第30名的資格考取進士後，出任汝州葉縣縣尉，開始了他的從政生涯。當他壯志滿懷赴任時，卻因途中夫人患病、汝水暴漲誤了報到限期，受到拘禁月餘的處罰，從政伊始即遭當頭一棒，況且縣尉是負責地方治安的小官吏，要應付繁雜公務，周旋官場傾軋，這與他嚮往的陶潛式生活格格不入。然而為了「食貧自以官為業」，他仍克己奉公，施仁政，撫黎民，建功業。後來，黃庭堅夫人孫氏病逝，他心情異常沉悶。政治不得意，婚姻不幸，葉縣成為他的傷心之地。為了擺脫低沉情緒，他參加了四京學官選拔考試，因文章優等，被授為「北京國子監教授」。
在大名期間，黃庭堅最幸運的是結識了蘇軾。據《蘇軾文集》記載，蘇軾已於6年前在好友孫覺處看到黃庭堅詩文，憑藉他敏銳的見識，認為黃庭堅就像精金美玉，人品才華無人堪比，然而由其文看其人，一定是兀傲離俗，難為世用。蘇軾還曾在好友李常處看到黃庭堅詩文，並評價說，庭堅的詩文超凡脫俗，非同一般。
正是蘇軾對黃庭堅的詩文早有閱讀，初步了解黃庭堅的詩品人品，所以在未謀面的情況下，黃庭堅的寄書對蘇軾來說不僅不唐突，反倒一見如故。從此黃庭堅成為蘇軾門人，兩人以詩唱和，以文交心，切磋詩文。
正在黃庭堅家庭、事業順暢之際，變故又起。1079年2月，年僅26歲的第二個夫人又病逝，黃庭堅再度陷入家庭不幸中。屋漏偏遇連夜雨，蘇軾「烏臺詩案」事發，他因「收受有譏諷文字而不申繳」受到牽連，被罰銅20斤。面對這一連串的纏身歹運，加上位卑俸薄，生活清苦，弟婚妹嫁又需資助，使他陷入苦悶中。面對生活困境，以及美好夙願無法實現的現實，他常常處於無奈和困惑之中，只得寄情於詩文書法創作。
與黃庭堅過人的才華相比，他一生的仕途極為黯淡。當官不得領導喜歡，關鍵在於他總是堅持以民為本，「民為貴，君為輕」，把百姓放在最重要的位置上，「施仁政，撫黎民，建功業」。例如他在《虎號南山》中，對虐民的苛政就進行了猛烈的抨擊。《流民嘆》則描述了震後又大澇，數萬災民流離失所的悲慘圖景。這些作品滲透出強烈的關心國運民生的使命感和責任心，仁政愛民也成為他從政的核心理念，他曾摘「爾俸爾祿，民膏民脂，下民易虐，上天難欺」來勒石自警，展現了感人的人道主義的精神。
隨之，他終因朋黨之爭和文字獄而遭貶。貶謫詔書下達時，左右的人皆因蠻荒之地，少有人煙而替他哭泣，而黃庭堅卻說：「四海之內，皆為兄弟，浮生若夢，來去無跡，凡有日月星辰明耀之地，無處不可寄此一生，又有何憂？」
或許正是在政治上屢受打擊、生活上經歷了太多的不如意，讓黃庭堅有了更多對於人生命運的思考，反而成就了他文學藝術上的輝煌。
1080年（元豐三年）春，國子監教授任期將滿，36歲的黃庭堅赴吏部改官。當時朝廷擬定他為衛尉寺丞兼著作佐郎，由於受蘇軾詩案影響，被改派知吉州太和縣（今江西省泰和縣），結束了他的大名學官生涯。在北京大名府任國子監教授八年，他雖然安貧樂道，但在「六年國子無寸功」的詩句中，還是表達了自己難以施展抱負的無奈心情。
失之東隅，收之桑榆。貼近民生疾苦和逼近軍事戰場，黃庭堅擁有豐富的創作材料和閱歷。輕鬆的教授之職，又使他有充足的時間博覽群書，累積知識，並以詩會友，與謝師厚、蘇軾、晁補之等詩人，砥礪唱和，創作詩文300多首，為他後來成就「山谷體」詩風，成為江西詩派「一祖三宗」的「三宗」之首，獲得「蘇黃」並稱以及書法上的「宋四家」美譽奠定了基礎。