IMAPSync. Перенесення пошти між серверами

У цій статті я хочу поділитися досвідом перенесення пошти між різними серверами за допомогою чудової утиліти IMAPSync. — Отримання IMAPSync.exe з исходников github (компіляція під Windows). — Перенесення пошти IMAP між серверами.В моєму випадку постало завдання перенести пошту зі свого сервера IDECO на сервера pdd.yandex.ru. Засобами Яндекса зробити це мені не вдалося, інструмент по імпорту для домену та інструмент збору пошти у властивостях скриньки видавав завжди одну помилку — невірний пароль. Технічна підтримка відповідала раз на добу, а проблема не вирішувалася. Були рекомендації змінити пароль, почекати, відключити двофакторну авторизацію і т. п. В загальному стандартні відписки, на жаль. Використовувати biz.mail.ru, який чудово все імпортував на тестових ящиках, не хотілося. Так як маю більше досвіду з Яндексом, і більше подобається робота пошти від Яндекса, було прийнято рішення знайти інший спосіб перенесення пошти. Їм і став IMAPSync. Починаємо, за умови, що на сервері призначення у нас створені порожні (або не дуже) ящики з потрібними нам логінами і паролями.Компіляція IMAPSync.exe з исходников під Windows
  1. Готуємо інструменти для компіляції: Завантажуємо останні исходники IMAPSync з github; Завантажуємо і встановлюємо 32-бітну версію Strawberry Perl (я використовував strawberry-perl v5.20.3.3-32bit); Розпаковуємо исходники і копіюємо файл з \imapsync в \W\imapsync; Запускаємо від адміністратора командний рядок, заходимо в папку \W і запускаємо установку необхідних модулів:
    install_modules.bat
    
    Виконуємо цей файл двічі, переконуємося, що всі модулі встановлено, що помилок немає. Якщо якийсь модуль не встановлюється (у мене, наприклад, Unicode::String не хотів ставиться), ставимо його через ppm:
    ppm install Unicode::String 
    
    Знову запускаємо:
    install_modules.bat
    
    і переконуємося, що всі модулі встановлено, що помилок немає.
  2. Запускаємо компіляцію:
    build_exe.bat
    
    На виході отримуємо imapsync.exe — запускаємо його в тому ж вікні командного рядка і перевіряємо, повинен показати довідку:Результат. Довідка за всіма параметрами
    Several options are mandatory.
    str means string
    int means integer
    reg means regular expression
    cmd means command
    
    --dry : Makes imapsync doing nothing, just print what would
    be done without --dry.
    
    --host1 str : Source or "з" imap server. Mandatory.
    --port1 int : Port to connect on host1. Default is 143, 993 if --ssl1
    --user1 str : User to login on host1. Mandatory.
    --showpasswords : Shows passwords on output instead of "MASKED".
    Useful to restart a complete run by just reading the log.
    --password1 str : Password for the user1.
    --host2 str : "destination" imap server. Mandatory.
    --port2 int : Port to connect on host2. Default is 143, 993 if --ssl2
    --user2 str : User to login on host2. Mandatory.
    --password2 str : Password for the user2.
    
    --passfile1 str : Password file for the user1. It must contain the
    password on the first line. This option avoids to show
    the password on the command line like --password1 does.
    --passfile2 str : Password file for the user2. Contains the password.
    
    --ssl1 : Use a SSL connection on host1.
    --ssl2 : Use a SSL connection on host2.
    --tls1 : Use a TLS connection on host1.
    --tls2 : Use a TLS connection on host2.
    --debugssl int : SSL debug mode from 0 to 4.
    
    --timeout1 int : Connection timeout in seconds for host1.
    Default is 120 and 0 means no timeout at all.
    --timeout2 int : Connection timeout in seconds for host2.
    Default is 120 and 0 means no timeout at all.
    
    --authmech1 str : Auth mechanism to use with host1:
    PLAIN, LOGIN, CRAM-MD5 etc. Use UPPERCASE.
    --authmech2 str : Auth mechanism to use with host2. See --authmech1
    
    --authuser1 str : User to auth with on host1 (admin user).
    Avoid using --authmech1 SOMETHING with --authuser1.
    --authuser2 str : User to auth with on host2 (admin user).
    --proxyauth1 : Use proxyauth on host1. Requires --authuser1.
    Required by Sun/iPlanet/Netscape servers to IMAP
    be able to use an administrative user.
    --proxyauth2 : Use proxyauth on host2. Requires --authuser2.
    
    --authmd51 : Use MD5 authentification for host1.
    --authmd52 : Use MD5 authentification for host2.
    --domain1 str : Domain on host1 (NTLM authentication).
    --domain2 str : Domain on host2 (NTLM authentication).
    
    
    --folder str : this folder Sync.
    --folder str : and this one, etc.
    --folderrec str : this folder Sync recursively.
    --folderrec str : and this one, etc.
    
    --folderfirst str : this folder Sync first. --folderfirst "Work"
    --folderfirst str : then this one, etc.
    --folderlast str : this folder Sync last. --folderlast "[Gmail]/All Mail"
    --folderlast str : then this one, etc.
    
    --nomixfolders : Do not merge folders when host1 is case sensitive
    while host2 is not (like Exchange). Only the first
    similar folder is synced (ex: Sent SENT sent -> Sent).
    
    --skipemptyfolders : Empty host1 folders are not created on host2.
    
    --include reg : Sync folders matching this regular expression
    --include reg : or this one, etc.
    in case --include both --exclude options are
    use, include is done before.
    --exclude reg : Skips folders matching this regular expression
    Several folders to avoid:
    --exclude 'fold1|fold2|f3' skips fold1, fold2 and f3.
    --exclude reg : or this one, etc.
    
    --subfolder2 str : Move whole host1 folders hierarchy under this
    host2 folder str .
    It does it by adding two --regextrans2 options before
    all others. Add --debug to see what's really going on.
    
    --automap : guesses folders mapping, for folders like 
    "Sent", "Junk", "Drafts", "All", "Archive", "Flagged".
    --f1f2 str1=str2 : Force folder str1 to be synced to str2, 
    --f1f2 overrides --automap and --regextrans2.
    --regextrans2 reg : Apply the whole regex to each destination folders.
    --regextrans2 reg : and this one. etc.
    When you play with the --regextrans2 option, first
    add also the safe options --dry --justfolders
    Then, happy when, remove-dry, remove --justfolders.
    Have in mind that --regextrans2 is applied after prefix
    and separator inversion. Examples For see
    http://imapsync.lamiral.info/FAQ.d/FAQ.Folders_Mapping.txt
    
    --tmpdir str : Where to store temporary files and subdirectories.
    Will be created if it doesn't exist.
    Default is system specific, Unix is /tmp but
    it's often small and deleted at reboot.
    --tmpdir /var/tmp should be better.
    --pidfile str : The file where imapsync pid is written.
    --pidfilelocking : Abort if pidfile already exists. Usefull to avoid
    concurrent transfers on the same mailbox.
    
    --nolog : Turn off logging on file
    --logfile str : Change the default log filename (can be dirname/filename).
    --реєстрації str : Change the default log directory. Default is LOG_imapsync
    
    --prefix1 str : Remove prefix to all destination folders
    (usually INBOX. or INBOX/ or an empty string "")
    you have to use --prefix1 if host1 imap server
    does not have NAMESPACE capability, so imapsync
    suggests to use it. All other cases are bad.
    --prefix2 str : Add prefix to all host2 folders. See --prefix1
    --sep1 str : Host1 separator in case NAMESPACE is not supported.
    --sep2 str : Host2 separator in case NAMESPACE is not supported.
    
    --skipmess reg : Skips messages maching the regex.
    Example: 'm/[\x80-ff]/' # to avoid 8bits messages.
    --skipmess is applied before --regexmess
    --skipmess reg : or this one, etc.
    
    --pipemess cmd : Apply this cmd command to each message content
    before the copy.
    --pipemess cmd : and this one, etc.
    
    --disarmreadreceipts : Disarms read receipts (host2 Exchange issue)
    
    --regexmess reg : Apply the whole regex to each message before transfer.
    Example: 's/\000/ /g' # to replace null by space.
    --regexmess reg : and this one, etc.
    
    --regexflag reg : Apply the whole regex to each flags list.
    Example: 's/"Junk"//g' # to remove "Junk" flag.
    --regexflag reg : and this one, etc.
    
    --delete : Deletes messages on host1 server after a successful
    transfer. Option --delete has the following behavior:
    it marks deleted messages as with the flag IMAP
    \Deleted, then messages are really deleted with an
    Expunge 
    IMAP command.

    --delete2: Delete messages in host2 that are not in
    host1 server. Useful for backup or pre-sync.
    --delete2duplicates: Delete messages in host2 that are duplicates.
    Works only without --useuid since duplicates are
    detected with an header part of each message.

    --delete2folders: Delete folders in host2 that are not in host1 server.
    For safety first try it like this (it is safe):
    --delete2folders --dry --justfolders --nofoldersizes
    --delete2foldersonly reg: Deleted only folders matching regex.
    Example: --delete2foldersonly "/^Junk$|^INBOX.Junk$/"
    --delete2foldersbutnot reg: Do not delete folders matching regex.
    Example: --delete2foldersbutnot "/Tasks$|Contacts$|Foo$/"
    --noexpunge: Do not expunge messages on host1.
    Expunge really deletes messages marked deleted.
    Expunge
  3. is made at the beginning, on host1 only.Newly transferred messages are also expunged ifoption --delete is given.No expunge
is done on host2 account (unless --expunge2)
--expunge1: expunge messages on host1 after messages transfer.
--expunge2: expunge messages on host2 after messages transfer.
--uidexpunge2: uidexpunge messages on the account host2
that are not on the host1 account, requires --delete2
--nomixfolders: Avoid merging folders that are considered on different
host1 but the same on destination host2 because of
case sensitivities and insensitivities.

--syncinternaldates: Sets the internal dates on host2 same as host1.
Turned on by default. Internal date is the date
a message arrived on a host (mtime).
--idatefromheader: Sets the internal dates on host2 same as the
"Date:" headers.

--maxsize int: Skip messages larger (or equal) than int bytes
--minsize int: Skip messages smaller (or equal) than int bytes
--maxage int: Skip messages older than int days.
final stats (skipped) don't count older messages
see also --minage
--minage int: Skip messages newer than int days.
final stats (skipped) don't count newer messages
You can do (+ are the selected messages):
past|---- maxage+++++++++++++++>now
past|+++++++++++++++minage---->now
past|---- maxage+++++minage---->now (intersection)
past|++++ minage-----maxage++++>now (union)

--search str: Selects only messages returned by this SEARCH IMAP
command. Applied on both sides.
--search1 str: Same as --search for selecting host1 messages only.
--search2 str: Same as --search for selecting host2 messages only.
--search CRIT equals --search1 CRIT --search2 CRIT

--exitwhenover int: Stop syncing when total bytes transferred reached.
Gmail per day allows
2500000000 = 2.5 GB downloaded from Gmail as host2
500000000 = 500 MB uploaded to Gmail as host1.

--maxlinelength int: skip messages with a line length longer than int bytes.
RFC 2822 says it must be no more than 1000 байт.

--useheader str: Use this header to compare messages on both sides.
Ex: Message-ID or Subject or Date.
--useheader str and this one, etc.

--subscribed: Transfers subscribed folders.
--subscribe: Subscribe to the folders on the transferred
host2 that are subscribed on host1. On by default.
--subscribeall: Subscribe to the folders on the transferred
host2 even if they are not subscribed on host1.

--nofoldersizes: Do not calculate the size of each folder in bytes
and message counts. Default is to calculate them.
--nofoldersizesatend: Do not calculate the size of each folder in bytes
and message counts at the end. Default is on.
--justfoldersizes: Exit after having the printed folder sizes.

--syncacls: Synchronises acls (Access Control Lists).
--nosyncacls: Does not synchronize acls. This is the default.
Acls in IMAP are not standardized, be careful.

--usecache: Use to cache speedup.
--nousecache: Do not use cache. Caveat: --useuid --nousecache creates
duplicates on multiple runs.
--useuid: Use uid instead of header as a criterium to recognize
messages. Option --usecache is then implied unless
--nousecache is used.

--debug: Debug mode.
--debugfolders: Debug mode for the folders part only.
--debugcontent: Debug content of the messages transfered. Huge ouput.
--debugflags: Debug mode for flags.
--debugimap1: IMAP debug mode for host1. Very verbose.
--debugimap2: IMAP debug mode for host2. Very verbose.
--debugimap: IMAP debug mode for host1 and host2.
--debugmemory: Debug mode showing memory consumption after each copy.

--errorsmax int: Exit when int number of errors is reached. Default is 50.

--tests: Run local non-regression tests. Exit code 0 means all ok.
--testslive: Run a live test with test1.lamiral.info imap server.
Useful to check the basics. Needs internet connexion.

--version: Print only software version.
--noreleasecheck: Do not check for new imapsync release (a http request).
--releasecheck: Check for new imapsync release (a http request).
--noid: Do not send/receive ID command to imap servers.
--justconnect: Just connect to both servers and print useful
information. Need only --host1 and --host2 options.
--justlogin: Just login to both host1 and host2 users with
credentials, then exit.
--justfolders: Do only things about folders (ignore messages).

--help: print this help.

Example: to synchronize imap account "test1" on "test1.lamiral.info"
to imap account "test2" on "test2.lamiral.info"
with test1 password "secret1"
and test2 password "secret2"

D:\imapsync-master\W\imapsync.exe ^
--host1 test1.lamiral.info --user1 test1 --password1 secret1 ^
--host2 test2.lamiral.info --user2 test2 --password2 secret2

Here is a [MSWin32] system (Windows NT Fronik 6.2 Build 9200 x86)
With perl 5.22.1 Mail::IMAPClient 3.38
$Id: imapsync,v 1.678 2016/01/21 19:47:02 gilles Exp gilles $
New imapsync release 1.684 available

Homepage: imapsync.lamiral.info/
Якщо все так, ніяких помилок немає, значить додаток готове, можна використовувати.
Перенесення пошти IMAP між серверами
  1. Копіюємо наше додаток \W\imapsync.exe у \examples\imapsync.exe. В папці \examples нас цікавить декілька файлів:
    • imapsync_example.bat — тестування перенесення налаштувань і сам перенесення пошти для одного ящика
    • sync_loop_windows.bat та file.txt — перенесення пошти для масиву скриньок
  2. Підготовка, тестування, перенесення одного ящика: Відкриваємо файл imapsync_example.bat і прописуємо наші реквізити та параметри:
    .\imapsync.exe ^
    --host1 mx.example.ru --user1 user@example.ru --password1 "Pass123" ^
    --host2 imap.yandex.ru --user2 user@example.biz --password2 "Pass123" ^
    --ssl1 --ssl2 --skipheader "^(?!Message-Id)" --automap ^
    --regextrans2 "s/^INBOX\.(.+)/$1/" --justfolders --dry
    @PAUSE
    
    Невеликий опис параметрівСервер джерела, логін скриньки, пароль ящика:
    --host1 mx.example.ru --user1 user --password1 "Pass123"
    Сервер призначення, логін скриньки, пароль ящика:
    --host2 imap.yandex.ru --user2 user@example.biz --password2 "Pass123"
    Використання SSL для сервера джерела і призначення:
    --ssl1 --ssl2
    Ігнорувати всі заголовки у листі, крім тих, що містять «Message-Id». Цей параметр корисний у тих випадках, коли для одного листа на різних серверах генеруються різні заголовки, в моєму випадку вони відрізнялися. Яндекс для кожного листа додавав одну додаткову рядок, із-за чого листи дублювалися при кожному наступному перенесення пошти. Якщо фільтрувати заголовки з «Message-Id», то при кожному перенесення пошти, копіюються тільки нові листи.
    --skipheader "^(?!Message-Id)" 
    Автоматично визначити і прив'язати папки на сервері джерела до папок на сервері призначення. Сама порівнює назви і створює прив'язки, підтримує папки з кирилицею в назвах. Inbox-> Вхідні. Sent -> Відправлені...
    --automap
    Видаляє з назви INBOX у всіх папках призначення. В моєму випадку IDECO всі папки називає починаючи з ВХІДНІ (INBOX.Sent, INBOX.Drafts тощо). Щоб не створювати подвійні назви у сервері призначення для папок, які були створені користувачем вручну. Тут варто зауважити, що це ще залежить від сервера.
    --regextrans2 "s/^INBOX\.(.+)/$1/"
    Виконувати операції тільки для папок. Листи не переносяться.
    --justfolders 
    Емуляція виконання. Буде показаний весь план робіт, але фізично нічого не переноситься. Зручно для тестування.
    --dry
    Після прочитання опису запускаємо і перевіряємо як сталася прив'язка наших папок. Якщо все успішно — здорово. Якщо немає, то можна скористатися параметрами ручної прив'язки. Наприклад, параметри нижче створює прив'язку папок «ВХІДНІ.Junk» і «INBOX.Spam» до папки «Видалені».
    --f1f2 "INBOX.Junk"="&BCMENAQwBDsENQQ9BD0ESwQ1-" --f1f2 "INBOX.Spam"="&BCMENAQwBDsENQQ9BD0ESwQ1-"
    
    Тут ми стикаємося з кодуванням. Щоб визначити, як повинні називатися папки з кирилицею потрібно заглянути в логи (LOG_imapsync\*.txt), які створюються після кожного виконання програми.
    Folders mapping from --automap feature (use --f1f2 to override any mapping):
    [INBOX.Junk] -> [&BCEEPwQwBDw-] = [Спам] 
    [INBOX.Spam] -> [&BCEEPwQwBDw-] = [Спам] 
    [INBOX.Sent] -> [&BB4EQgQ,BEAEMAQyBDsENQQ9BD0ESwQ1-] = [Надіслані]
    [INBOX.Drafts] -> [&BCcENQRABD0EPgQyBDgEOgQ4-] = [Чернетки]
    [INBOX.Trash] -> [&BCMENAQwBDsENQQ9BD0ESwQ1-] = [Віддалені]
    
    Ну, а тут вже все ясно і зрозуміло, і сама програма пропонує нам створити ручну прив'язку, якщо це необхідно.Після прогону, переконавшись, що все виглядає добре, видаляємо параметр:
    --dry
    
    Запускаємо, і перевіряємо як створилися папки на нашому сервері призначення. Поки ми перевіряємо тільки папки. Якщо потрібно, вносимо правки у прив'язки. Якщо все виглядає так, як нам потрібно, відмінно, переходимо до листів. Видаляємо параметр:
    --justfolders
    
    Запускаємо і перевіряємо як створюються папки і переміщуються листа на наш сервер призначення. Також вносимо необхідні правки при необхідності. Якщо нам потрібно було перенести тільки один ящик на цьому ми закінчили. Якщо потрібно перенести більше, то переходимо до наступного пункту.
  3. Перенесення пошти для кількох ящиків. Відкриваємо файл file.txt. Цей файл містить гарний опис і реальний приклад, для демонстрації роботи. З заповненням труднощів виникнути не повинно. Закомментіруем в ньому всі приклади, і напишемо свої дані нижче. Перераховуємо всі наші ящики які хочемо перенести.
    mx.example.ru;user;Pass123;imap.yandex.ru;user@example.biz;Pass123
    mx.example.ru;user2;Pass321;imap.yandex.ru;user2@example.biz;Pass321
    
    Відкриваємо файл sync_loop_windows.bat на редагування, і після рядків:
    imapsync ^
    --host1 %%G --user1 %%H --password1 %%I ^
    --host2 %%J --user2 %%K --password2 %%L %arguments%
    
    Додаємо наші параметри, не забуваючи про символ "^" у кінці рядка після %arguments%, отримуємо в результаті:
    imapsync ^
    --host1 %%G --user1 %%H --password1 %%I ^
    --host2 %%J --user2 %%K --password2 %%L %arguments% ^
    --ssl1 --ssl2 --skipheader "^(?!Message-Id)" --automap ^
    --regextrans2 "s/^INBOX\.(.+)/$1/" --justfolders --dry
    
    Зберігаємо і запускаємо. Перевіряємо як пройшла відпрацювання і видаляємо параметри --justfolders --dry для запуску реального перенесення всіх папок і листів.Тепер залишається тільки чекати завершення переміщення поштових скриньок і перевіряти логи. Для кожного ящика буде створений свій лог.
ДоповненняКілька основних моментів, які я для себе виділив при вивченні програми і налагодження помилок:
  • В папці \examples\FAQ.d є відмінний FAQ з прикладами
  • При експериментах з заголовками допоможе параметр "--debug". У цьому режимі відображається вміст всіх заголовків кожного листа.
  • В якості сервера джерела і призначення можна використовувати один і той же сервер, наприклад, для видалення дублікатів.
Компіляція і працездатність протестована на Windows 10 64bit Windows 7 64bit.

Джерело: Хабрахабр

0 коментарів

Тільки зареєстровані та авторизовані користувачі можуть залишати коментарі.