Pengertian dan Installasi Mail Server

Apa Itu Mail Server?

Mail server adalah jantung dari sistem email. Ia memungkinkan pengguna untuk mengirim dan menerima email. Dalam ekosistem email, Postfix dan Dovecot adalah dua komponen yang sering bekerja sama. Postfix berperan sebagai Mail Transfer Agent (MTA) yang bertanggung jawab atas pengiriman email, sementara Dovecot bertindak sebagai Internet Message Access Protocol (IMAP) dan Post Office Protocol (POP3) server, yang mengelola email di sisi klien.

Memahami Postfix dan Dovecot

  • Postfix:
    • MTA yang populer, dikenal karena kecepatan dan fleksibilitasnya.
    • Mengatur pengiriman email dari satu server ke server lain.
    • Konfigurasi Postfix melibatkan pengaturan domain, alamat email, relay, dan autentikasi.
  • Dovecot:
    • IMAP dan POP3 server yang aman dan efisien.
    • Memungkinkan klien email mengakses email di server.
    • Konfigurasi Dovecot melibatkan pengaturan akun pengguna, folder, dan kebijakan keamanan.

Mengapa Memilih Postfix dan Dovecot?

  • Kinerja: Keduanya dikenal memiliki kinerja yang baik, terutama pada server dengan beban tinggi.
  • Keamanan: Tersedia banyak fitur keamanan untuk melindungi server dari spam dan serangan.
  • Fleksibel: Dapat dikonfigurasi untuk memenuhi berbagai kebutuhan, mulai dari server email pribadi hingga perusahaan besar.
  • Komunitas: Memiliki komunitas pengguna yang aktif, sehingga mudah menemukan dukungan dan solusi jika terjadi masalah.

Proses Instalasi dan Konfigurasi

Prasyarat:

  • VPS: Pastikan kita memiliki VPS dengan sistem operasi Linux yang stabil (misalnya, Ubuntu, Debian, CentOS).
  • Domain: kita perlu memiliki domain yang terdaftar dan sudah dikonfigurasi DNS-nya untuk menunjuk ke IP VPS kita.
  • Akses SSH: kita perlu memiliki akses SSH ke VPS kita untuk menjalankan perintah-perintah.

Install dan Konfigurasi Postfix

  1. Pointing Domain ke VPS

Sebelum kita mulai untuk instalasi mail server, kita perlu pointing terlebih dahulu domain ke VPS. kita bisa pointing domain kita lewat Cloudflare

Cloudflare>Website>Nama Domain>DNS
Add Record> A @ ipvps DNS OnlyAdd Record> A  mail DNS OnlyAdd Record> MX @ mail.namadomain auto 10
  1. Install Postfix

sebelum kita mulai mengkonfigurasi postfix, kita bisa setting hostname kita terlebih dahulu untuk memudahkan proses konfigurasi

hostnamectl set-hostname nama_domain_utama
hostname -f
apt update && apt upgrade
apt install postfix
step pertama = pilih Internet Sitestep kedua = Gunakan Domain Utama
systemctl status postfix
  1. Setting Dasar Postfix

kita perlu configure postfix kita terlebih dahulu

dpkg configure postfix
step pertama = pilih internet sitekedua = ketik nama domain utamanya
step ini pastikan ada nama  domainnya jika sudah klik Enter sajauntuk synchronous pilih No saja
mailbox= setting ke 0 extensionnya ikuti defaultnya sajauntuk protocol kita pilih yang all
systemctl reload postfixsystemctl restart postfix
  1. Konfigurasi Postfix

untuk konfigurasi Postfix kita bisa ke main.cnf

vim /etc/postfix/main.cf
yang perlu kita perhatikan adalah line home_mailbox = mail\, tambahkan line tersebut pada konfigurasinya
systemctl reload postfixsystemctl restart postfixsystemctl status postfix

Install dan Konfigurasi Dovecot

  1. Install Dovecot
apt install dovecot-imapd dovecot-pop3d
systemctl status dovecot
  1. Konfigurasi Dovecot

untuk konfigurasi dovecot bisa di dovecot.conf dan 10-mail.conf

vim /etc/dovecot/dovecot.conf
tambahkan pada line akhir untuk protocolnya yaitu menggunakan pop3 imap, selanjutnya kita konfigurasi untuk mail.conf, untuk mengatur direktori mail akan diletakkan dimana
vim /etc/dovecot/conf.d/10-mail.conf
  1. Pengujian Pop3

kita akan coba menguji pop3 menggunakan wormly untuk menguji koneksi dan kinerja email pop3 kita untuk memastikan bahwa client sudah terhubung dengan server

https://www.wormly.com/test-pop3-mail-server
hostname= masukkan ip vpsnyausername= masukkan username yang digunakan untuk mail serverpassword= masukkan password usernyassl= yesport= 995 karena kita menggunakan ssllalu klik start pop3 test
nah, jika sudah seperti diatas artinya client sudah berhasil terhubung dengan server

Setting SPF,DKIM,DMARC

SPF, DKIM, dan DMARC adalah tiga teknologi yang bekerja sama untuk memverifikasi identitas pengirim email, melindungi dari spam dan phishing, serta meningkatkan reputasi domain.

  1. Setting SPF

untuk setting SPF kita perlu menggunakan Cloudflare kita

Cloudflare>Website>DNS>records
Add record>TXT>@ autov=spf1 ip4:ip_vps a mx ~all
  1. Uji SPF

gunakan website MXtoolbox untuk menguji spf kita sudah terhubung dengan server atau belum

https://mxtoolbox.com/spf.aspx
masukkan domain dan ipvps kita lalu klik direcord, jika sudah terhubung maka ketika ditest akan centang hijau
  1. Setting DKIM

untuk membuat dkim kita bisa menggunakan opendkim di vps kita

apt-get install opendkim opendkim-tools
systemctl enable opendkim –now
mkdir /etc/opendkim
opendkim-genkey -D /etc/opendkim/ –domain nama_domain –selector mail
cat /etc/opendkim/mail.txt
nah, ini kita copy lalu kita pastekan di cloudflare menggunakan TXT
hapus tanda “hapus untuk spasinya/satukan kalimat dari P sampai akhir
jika sudah kita perlu setting beberapa di opendkimnya.
chown -R opendkim:opendkim /etc/opendkim
/etc/opendkim.conf
tambahkan/ganti konfigurasi agar seperti diatas
vim /etc/opendkim/TrustedHosts
masukkan nama domain utamanya
vim /etc/opendkim/KeyTable
ganti sesuai nama domain masing masing
vim /etc/opendkim/SigningTable
ganti dengan domain masing masing
systemctl restart opendkimsystemctl status opendkim
  1. Pengujian DKIM
https://mxtoolbox.com/spf.aspx
Masukkan nama domain dan selectornya, karena kita tadi menggunakan mail maka untuk selectornya gunakan mail. jika ditest centang hijau maka konfigurasi dkim kita telah benar
  1. Setting DMARC

Untuk setting DMARC sama seperti setting yang lainnya

Cloudflare>Website>DNSTXT _dmarc autov=DMARC1;p=quarantine;aspf=r;sp=none
  1. Pengujian DMARC

Gunakan Website yang sama dengan yang tadi namun kita pilih opsi untuk mengecek dmarc

https://mxtoolbox.com/dmarc.aspx
untuk dmarc sendiri kita hanya perlu memasukkan nama domain saja lalu cek, jika testnya centang hijau semua maka konfigurasi dmarc kita telah berhasil

Pengujian Pengiriman Email

Setelah kita melakukan proses instalasi dan konfigurasi yang panjang, saatnya kita uji mail server kita apakah sudah berjalan atau belum

/usr/sbin/sendmail nama email yang akan dikirim
Selanjutnya kita cek di gmail kita apakah sudah terkirim atau belum kita bisa cek di spam
Nah email sudah berhasil terkirim, untuk pengiriman default pesan akan masuk spam karena kita belum membuat email gateway yang digunakan untuk antispam, coba kita coba untuk membalas emailnya
cat /var/mail/root
Nah, mail server kita juga berhasil menerima email dari client, artinya konfigurasi kita untuk mail server sudah berhasil

Kesimpulan

Dengan menggabungkan fleksibilitas Postfix sebagai MTA dan fitur-fitur canggih Dovecot sebagai MDA, kita telah membangun sebuah infrastruktur email yang solid. Konfigurasi yang tepat dari kedua software ini memungkinkan kita untuk mengontrol segala aspek komunikasi email, mulai dari autentikasi pengguna hingga manajemen penyimpanan. Namun, ingatlah bahwa keamanan adalah prioritas utama dalam mengelola mail server. Terapkan praktik keamanan terbaik seperti menggunakan SSL/TLS, membatasi akses SSH, dan secara rutin memindai sistem kita terhadap kerentanan.

Tertarik mengkuti training di ID-Networkers? Kami menyediakan berbagai pilihan training yang bisa kamu ikuti, klik disini untuk info lengkapnya.

Penulis : Rafly Abdul Bay Haqqy