存单是一种银行的储蓄产品，在存入时需要选择存单的类型、期限和利率，并且需要在到期后才能取出本金和利息。

一般来说，存单是由开户银行来承担管理和支付利息的责任，如果需要取出存单，可以到开户银行或指定的代理银行进行操作。

因此，存单本身并不是可以在所有银行取出的，需要在开户时确定取款条件，并理解开户银行的规定，以便在需要时进行取款操作。