鉴于您们并未正式办理婚姻登记手续，所以只能被视为同居关系。
在此情况下，非婚生子女应享受与婚生子女同等的权利与福利待遇。
关于子女抚养权问题，您们双方有权利进行磋商，如果无法形成共识，可向当地司法机构提起诉讼。
此过程中，司法机关将基于挑选出对子女未来成长更为有利的抚养人。

《民法典》第一千零六十七条
父母不履行抚养义务的，未成年子女或者不能独立生活的成年子女，有要求父母给付抚养费的权利。
成年子女不履行赡养义务的，缺乏劳动能力或者生活困难的父母，有要求成年子女给付赡养费的权利。