衡阳市人民检察院现有办公室(新闻办公室)、第一检察部、第二检察部、第三检察部、第四检察部、第五检察部、第六检察部、第七检察部、第八检察部、法律政策研究室、案件管理办公室、检务督察部（巡察工作领导小组办公室）、检察技术部、计划财务装备部、政治部（司法警察支队）、机关党委共16个内设机构。

衡阳市人民检察院下辖1个派出院、12个县市区检察院，分别为华新地区人民检察院和雁峰区人民检察院、石鼓区人民检察院、珠晖区人民检察院、蒸湘区人民检察院、南岳区人民检察院、衡南县人民检察院、衡阳县人民检察院、衡山县人民检察院、衡东县人民检察院、祁东县人民检察院、常宁市人民检察院、耒阳市人民检察院。

近年来，在省检察院党组和衡阳市委的正确领导下，全市检察机关坚持以习近平新时代中国特色社会主义思想为指导，深入落实《中共中央关于加强新时代检察机关法律监督工作的意见》、省委实施意见、市委责任清单，忠实履行宪法和法律赋予的职责，各项工作稳步向前发展。衡阳市人民检察院先后获评“全国文明单位”“全国文明接待室”“全国普法工作先进单位和依法治理创建活动先进单位”“全省检察机关扫黑除恶专项斗争先进集体”等重要荣誉。石鼓区人民检察院（“情理法融合”化解涉法涉诉信访工作法）获全国新时代“枫桥经验”先进典型。队伍中涌现了“全国脱贫攻坚先进个人”“全省最具影响力十大法治人物”“全国维护妇女儿童权益先进个人”“全国检察机关先进个人记个人一等功”“全国检察机关控告申诉检察业务竞赛能手”等一大批先进典型。