可以。虚开增值税发票数额不大，且属于初犯，被税务部门查证后，只要接受税务部门给予的处罚，按照要求缴交罚款，可以不移送经侦部门处理的。