依据我国相关司法解释的规定，夫妻双方都构成重婚的，其前一段婚姻关系可以起诉至法院进行解除，而后建立的两段婚姻关系属于无效婚姻，故不存在解除与否的问题。
已登记结婚的一方又与第三人形成事实婚姻关系，或事实婚姻关系的一方又与第三人登记结婚，或事实婚姻关系的一方又与第三人形成新的事实婚姻关系，凡前一个婚姻关系的一方要求追究重婚罪的，无论其重婚行为是否构成重婚罪，均应解除后一个婚姻关系。前一个婚姻关系的一方如要求处理离婚问题，应根据其婚姻关系的具体情况进行调解或者作出判决。
《中华人民共和国刑法》第二百五十八条 【重婚罪】有配偶而重婚的，或者明知他人有配偶而与之结婚的，处二年以下有期徒刑或者拘役。
只要是无效的婚姻，自始不具有法律效力，当事人之间也不具有夫妻之间的权利和义务，应当予以解除。
1、任何人发现无效婚姻，都有权检举和揭发;
2、当事人以及利害关系人可以向婚姻登记机关或人民法院提出该婚姻无效;
3、婚姻登记机关和人民法院发现有无效婚姻的，应当主动依职权解除该婚姻。
婚姻登记机关和人民法院查明确实是无效婚姻时，应当收回被骗取的结婚证，宣告该婚姻无效，解除当事人之间的同居关系，并对同居期间的财产及所生子女作适当处理。
利害关系人依据《婚姻法》第十条的规定，申请人民法院宣告婚姻无效的，利害关系人为申请人，婚姻关系当事人双方为被申请人。夫妻一方死亡的，生存一方为被申请人。夫妻双方均已死亡的，不列被申请人。
婚姻关系是一种契约关系，双方应该在不违反道德和法律底线的前提妥善处理婚姻关系。双方在情感或者价值观上有歧义的，在沟通协商无果的情况下，可以合法接触婚姻关系再去寻找下一段男女关系。顺序先后错了就容易违反法律法规，承担后果。
延伸阅读：
怎样才算是重婚,重婚罪要被判多少年
重婚罪的司法解释
重婚罪需要哪些证据？如何收集？
