Einfach bei Outlook einstellen, dass die Mails für xx Tage auf dem Server verbleiben sollen.

Zweckmäßigerweise sollte man aber einstellen, dass gelöschte Nachrichten vom Server entfernt werden, damit man nicht den Müll doppelt löschen muss.