財政部臺北國稅局表示：被限制出境之欠稅人，依規定提供相當財產擔保而解除出境限制者，除非繳清稅款，否則不能向稅捐稽徵機關主張取回擔保品。
該局舉例說明，納稅義務人甲君因欠繳稅捐及罰鍰達到限制出境的標準，經財政部函請內政部移民署予以限制出境，並移送法務部行政執行署所轄分署強制執行。納稅義務人因故急於出境，遂提供第三人所有之不動產作為擔保，以申請解除出境限制。但甲君回國後仍未繳清稅款，稅捐稽徵機關乃依規定將所提供的擔保品移送強制執行。甲君主張當初提供的擔保品，僅是擔保其返國的措施，並非真要作為欠稅款的擔保，請國稅局再對他限制出境，並將其提供的擔保品退還，但國稅局否准其申請。
該局指出，欠稅人為解除限制出境所提供相當財產之擔保，是為保全租稅債權之目的，除非將欠稅及罰鍰全數繳清，否則不會退還擔保品，並且還會依稅捐稽徵法第39條規定，將擔保品移送強制執行。