Perkembangan teknologi telekomunikasi menuntut peningkatan kecepatan dan keandalan pertukaran data. Meskipun sistem transmisi kabel memiliki kecepatan tinggi dan performa prima, namun biaya instalasi yang dibutuhkan cukup besar. Sebagai solusi, Radio over Fiber (RoF) dihadirkan untuk mengintegrasikan jaringan nirkabel dan kabel. Pilihan penguat optik, seperti Erbium Doped Fiber Amplifier (EDFA), dan modulator RF QAM yang tepat dapat meningkatkan kinerja transmisi Radio over Fiber. Penelitian ini bertujuan merancang dan membuat sistem RoF yang disimulasikan menggunakan software Optisystem. Sistem menggunakan modulasi 4-QAM, yang dijalankan dengan menggunakan EDFA dan tanpa EDFA. Parameter yang dianalisis adalah Q-factor, OSNR, dan BER. Hasil penelitian menunjukkan bahwa sistem dengan menggunakan EDFA, pada jarak 85 km diperoleh nilai Q-factor sebesar 6,1427, OSNR 23,20993, dan nilai BER 4,05625 ´ 10−10. Sedangkan pada skema pengujian jarak 90 km s/d jarak 200 km, kondisi transmisi tidak memenuhi standar kelayakan yang ditetapkan. Hal ini disebabkan oleh panjang link yang dilewati semakin jauh dan menimbulkan dispersi loss yang semakin besar.