文庙位于县城南街，始建于元代至元丁亥年，西域人鲁克得礼任县令，得议集资修建文庙，戊子年春动工，已丑年冬落成。明代弘治年间，知县周书又迁到城北，明嘉靖末年，县令王调元又迁到东街，万历辛卯，县令封嘉诰又迁到渭北山麓，天启丁卯年县令赵守成又迁到城外面还建有名官祠、乡贤祠、忠孝祠。此处有有戟门、泮池，棂星门、义路、礼门等附属建筑。戟门是指宫门，文庙又是学宫，泮池则是学宫前的水池，状为半朋形。所谓棂星（天田星）、宋代仁崇天圣六年，在效外筑台祭天，置灵星门，后来移用到孔庙，意思是似尊天之礼尊孔。义路、礼门、是棂。据《孟子•万》尖义、路也；礼、门也。维君能由是路出入是门也“指正义之路，礼仪之门。”

　　文庙祭孔为历代县内祭祀最为隆重的场面。据巩建丰撰《伏羌县志》记载：“至圣先量孔子以二、八月上丁日祭。先期省牲，至日知县行正献礼教官分献东西，哲典史分献东庭、西庭，以首贡代之，惟崇圣祠是日子夜学官司行先祀之，礼成，然后同祭。文庙在民国初年被作为省立甘谷中学。里面的建筑后来被改建。90年代末在旧城改造中两庭被拆，惟保留下来大成殿，在原址基础加高。

　　文庙所在建筑中，现仅存大成殿。大成殿在文庙中心位置，重檐歇山顶，长29米，阔18米，殿正面5间，进深4间，采用蜀柱前后廊式构架。檐柱与金柱间施挑尖梁，穿插枋，作为两排柱子的联系，并在金柱间按檐步举架施用承檐枋，将檐椽搭置在承椽坊上，构在第一层屋面，并在下层梢间金柱一缝施挑尖顺梁，在挑尖顺梁上，由山面正主檀心内退一廊步架处载童柱支承上层屋檐，作为山面上层的檐柱。为增大承载力，并在顺梁下设随梁。外观出檐较浅，斗拱比例较小，重檐采用假铆，但未刻华头子。候昂嘴、耍头，凤凰台完全沿袭了元代作法。

　　两层斗拱作法基本相同，上层柱头组合为下铆、假铆。第二挑内转华拱上，承上承平期枋。假铆下皮曲线皆延华拱，上承四椽能，之上施五架梁，承托老檐檀，五架梁上施平梁，平梁正中设脊瓜柱，柱脚设角背，柱上脊枋置党组书记道拱，与麻叶头形拱相交接襻间，脊檀两端设较细叉手，明以前叉手较粗。大成殿屋面由绿黄两色琉璃瓦履盖，兽吻散佚。山面陡峭，角角轻盈起翘，玲珑精巧，气度非凡，既有庑黄建筑雄浑的气势，又有攒尖顶建筑俏丽的风格。它是庑殿或四角攒建筑与悬山建筑的有机结合。