在发现不应当逮捕的时候，必须立即释放，发给释放证明。
人民法院、人民检察院和公安机关如果发现对犯罪、被告人采取强制措施不当的，应当及时撤销或者变更。公安机关释放被逮捕的人或者变更逮捕措施的，应当通知原批准的人民检察院。
在逮捕过程中，发现不应对犯罪嫌疑人追究刑事责任的，应当撤销案件;犯罪嫌疑人已被逮捕的，应当立即释放，发给释放证明，并且通知原批准逮捕的人民检察院。
批捕错误应当立即释放当事人，并且对于当事人造成的损害进行国家赔偿，具体赔偿方式根据《中华人民共和国国家赔偿法》第二十条规定，赔偿义务机关对依法确认有本法第十五条、第十六条规定的情形之一的，应当给予赔偿。赔偿请求人要求确认有本法第十五条、第十六条规定情形之一的，被要求的机关不予确认的，赔偿请求人有权申诉。
赔偿请求人要求赔偿，应当先向赔偿义务机关提出。赔偿程序适用本法第十条、第十一条、第十二条的规定。
《中华人民共和国刑事诉讼法》第七十二条规定，人民法院、人民检察院对于各自决定的人，公安机关对于经人民检察院批准逮捕的人，都必须在逮捕后的二十四小时以内进行讯问。
人民检察院审查案件，可以要求公安机关提供法庭审判所必需的证据材料。人民检察院审查案件，对于需要补充侦查的，可以退回公安机关补充侦查，也可以自行侦查。对于补充侦查的案件，应当在一个月以内补充侦查完毕。补充侦查以二次为限。补充侦查完毕移送人民检察院后，人民检察院重新计算期限。对于补充侦查的案件，人民检察院仍然认为证据不足，不符合起诉条 件的，可以作出不起诉的决定。
不起诉的决定，应当公开宣布，并且将不起诉决定书被不起诉人和他的所在单位。如果被不起诉人在押，应当立即释放。
综上所述，逮捕是我国刑法中的一项措施，是对相关人员的自由权进行一个约束的过程，按照法定程序应当是公安机关侦查认定当事人犯罪证据确凿提请批捕，检察院审理批准后执行，然而批捕后发现存在错误的，应当立即释放当事人，造成当事人损害的有权提出赔偿。
延伸阅读：
刑事案件没有批捕还可能判刑么？
刑事案件没有批捕也是可能判刑的。检察院不...
不予批捕还追究刑事责任吗？
检察院不予批捕后还可能会起诉追究刑事责任...
检察院不批捕被害人如何维权？
对于检察院不批捕的，受害人暂无申诉途径，...
检察院不批捕是退回法制科吗?
检察院不批捕不是退回法制科，而是退回公安...
不予批捕是否等同于不予起诉
有案件是检察院批捕抓人吗？
检察院要抓人，应该是自侦案件，就是渎检科...
