可以进行医疗费用报销。若尚未完成户籍登记手续，这并不会对实际流程产生影响。关键在于，您务必确认您所购买的新型农村合作医疗已为新生婴儿缴纳相关费用，方能享受到相应的费用报销。若未支付此笔费用，则无法获得福利保障。
然而请注意，各地政府对于此类情况的补助政策可能会有所差异。在部分地区，新生儿即便尚未完成户籍登记以及购买医疗保险，但只要其母亲的医疗保险仍有效，即可依循其母亲的医保规定申请费用报销。

《中华人民共和国社会保险法》第二十三条
职工应当参加职工基本医疗保险，由用人单位和职工按照国家规定共同缴纳基本医疗保险费。无雇工的个体工商户、未在用人单位参加职工基本医疗保险的非全日制从业人员以及其他灵活就业人员可以参加职工基本医疗保险，由个人按照国家规定缴纳基本医疗保险费。