尽管双方并未领取结婚证书，且已经育有子女，然而，对于非直接监护养育子女的一方而言，仍然负有向未成年子女支付抚养费用的法律责任。
缘由在于，作为父母，无论是否已领取结婚证书，均需承担起对子女的抚养义务，这一义务不会因为未领取结婚证书而被免除或消失。
因此，非直接监护养育子女的一方应承担部分或全额的抚养费用，以确保未成年子女在生活及成长过程中所必需的物质条件得到满足。

《中华人民共和国民法典》第一千零七十一条
非婚生子女享有与婚生子女同等的权利，任何组织或者个人不得加以危害和歧视。
不直接抚养非婚生子女的生父或者生母，应当负担未成年子女或者不能独立生活的成年子女的抚养费。