臨汾市第二人民醫院始建于1970年，前身是臨汾衛校“6·26門診部”，先后更名為臨汾衛校門診住院部、臨汾衛校附屬醫院等。1997年經臨汾地區機構編制委員會批準，增掛“臨汾地區第二人民醫院”牌匾。2006年3月經省衛生廳批準，正式更名為臨汾市第二人民醫院，也是臨汾職業技術學院第一附屬醫院。
經過歷屆領導班子和職工的不懈努力，醫院得到迅猛發展，現已成為臨汾市一所集醫療、教學、科研及預防保健為一體的綜合性二級甲等教學醫院。先后被定為全市首批“城鎮職工基本醫療保險定點醫院”、“臨汾市職工工傷保險定點醫院”、“新型農村合作醫療定點醫院”、“中華慈善總會‘微笑列車唇腭裂修復項目’定點醫院”；先后榮獲省級“青年文明號”、市“勞動模范集體”，被省衛生廳評為全省“先進醫院”、“全省衛生系統先進集體”； 全省“醫德醫風建設先進單位”；被省勞動競賽委員會榮記集體一等功一次。多次被市衛生局評為“衛生應急醫療救援先進集體”、“醫院內涵建設先進集體”、“醫德醫風建設先進集體”等。1997年通過衛生部“愛嬰醫院”驗收。2005年通過省衛生廳“二級甲等醫院”評審。
臨汾市第二人民醫院占地面積8888.8㎡，建筑面積 26463㎡，開設床位300張，設職能科室21個、臨床科室18個、醫技科室10個，其中臨汾市重點學科2個（心血管內科、泌尿外科），院級重點學科3個（婦產科、兒科、神經內科）。
2013年，全院職工479人。其中正高職稱29人，副高職稱35人，中級職稱125人。近年來醫院投資興建了十層住院大樓、門診大樓，擁有飛利浦Integris Allura 12 兼容型數字化血管造影系統、德國西門子Somatom emotion 16層螺旋CT、DR(數字X射線成像系統)、美國貝克曼DXC800全自動生化分析儀、美國IQ-200全自動尿液分析儀、日本SYSMEX全自動血液分析儀、瑞士羅氏化學發光免疫分析系統、西門子Acuson S2000彩超、飛利浦彩超、奧林巴斯宮腔鏡、喉鏡、支氣管鏡、狼牌腹腔鏡、醫用鈥激光、美國心臟中央監護系統、日本富士能電子胃鏡、電子腸鏡、意大利心電運動平板分析系統等先進的醫療設備，設有ICU/CCU病房，建立了艾滋病實驗室，綜合技術水平居全省同級醫院前列，醫療環境及條件優良。
醫院服務對象以臨汾市各縣（市、區）為主，同時輻射到運城、晉中等周邊縣市。遵循 “院有重點、科有特色、人有專長”的學科建設方針，加強學科建設，形成了心血管內科、泌尿外科、神經內科、婦產科、兒科、結腸炎科為特色，其它學科同步發展的模式。邀請上級醫院專家來院講座、指導手術，推薦學科帶頭人外出考察、學術交流，選派業務骨干等專業技術人員赴上級醫院進修培訓，堅持開展院內培訓和外出培訓人員返院后集體學習與講座，提高了診治水平。
醫院正按照“立足二甲、爭創三乙、建設臨汾一流教學醫院”的總體工作目標，以病人為中心，以提高醫療質量為核心，認真開展“三好一滿意”、優質護理服務、創建平安醫院等活動，醫院的整體實力得到了很大提高，醫院正向科學化、規范化和標準化的方向邁進。醫院也將繼續以精湛的醫術，高品位的服務為臨汾及周邊地區百姓的健康保駕護航，繼續為臨汾市衛生事業的發展作出不懈努力。
