未持有结婚证的情形确实较为复杂。
就拿未办理结婚登记手续却以夫妻名义共同生活的情况来说吧，这就属于同居关系。
当要解除这种同居关系时，财产分割和子女抚养这些问题都可以通过双方友好协商来处理。
要是协商不拢，那就可以向法院提起诉讼，让法律来帮忙解决。
还有一种情况，双方之前办理过结婚登记，但是结婚证不小心遗失或者损毁了。
这时候，得先去婚姻登记机关补办结婚证，然后再办理离婚手续。
要是实在没法补办结婚证，也不用着急，同样可以向法院起诉离婚。
法院会仔细查看婚姻登记档案或者其他相关证据，以此来认定婚姻关系到底存不存在。
根据这些情况，法院会依法作出公正的判决。
总而言之，未持有结婚证到底能不能离婚，得具体情况具体分析。
为了能得到更准确的法律建议，最好还是去咨询专业的律师，他们能给你更靠谱的指导。