财务可以凭借对方的付款凭证开具发票。只要是消费者，提供相关的消费凭证都可以获取发票。