在这种情况下，即便生育了子女，但由于并未领取到正式的结婚证书，因此双方的关系并不构成法定意义上的婚姻关系，也就无法产生离婚的法律效力。
作为当事人，你们需要自行协商，达成协议来结束这段同居关系。
然而，如果因为对共同生活期间的财产分配以及孩子抚育问题产生分歧而无法自行解决，则可以依法向法院提起诉讼寻求帮助。
需要注意的是，虽然向法院提出解除同居关系的请求得到受理，但法院对此类案件作出生效判决的可能性较低。

最高人民法院关于适用《中华人民共和国民法典》婚姻家庭编的解释（一）第三条当事人提起诉讼仅请求解除同居关系的，人民法院不予受理；已经受理的，裁定驳回起诉。
当事人因同居期间财产分割或者子女抚养纠纷提起诉讼的，人民法院应当受理。