哪里借的退哪里。
先解除购房合同，由开发商退还业主全部购房款、利息及其它办证费用，然后，由业主到银行解除担保贷款合同，办理提前还贷手续，将剩余贷款本息(部分本金、利息此前已按月归还)提前还给银行；开发商收到的借款，将退回银行。
业主先到银行解除担保贷款合同，办理提前还贷手续，将剩余贷款本息提前还给银行。

《民法典》第五百六十三条
有下列情形之一的，当事人可以解除合同：
（一）因不可抗力致使不能实现合同目的；
（二）在履行期限届满前，当事人一方明确表示或者以自己的行为表明不履行主要债务；
（三）当事人一方迟延履行主要债务，经催告后在合理期限内仍未履行；
（四）当事人一方迟延履行债务或者有其他违约行为致使不能实现合同目的；
（五）法律规定的其他情形。
以持续履行的债务为内容的不定期合同，当事人可以随时解除合同，但是应当在合理期限之前通知对方。