The purpose of this article is to provide a comprehensive overview of modern methods for optimizing fifth-generation (5G) networks using mathematical models and algorithms. The article presents an in-depth analysis of approaches aimed at enhancing the performance of 5G networks, with a focus on minimizing latency, ensuring high energy efficiency, and improving spectral efficiency—key parameters for meeting the demands of modern mobile services and mission-critical applications. The discussion covers theoretical methods such as linear and nonlinear programming, stochastic modeling, machine learning algorithms, and robust optimization techniques, which play a crucial role in designing effective solutions for dynamic and resource-constrained 5G environments. Despite significant progress made in recent years, numerous challenges remain before these technologies can be fully implemented in real-world commercial networks. One of the key issues is the gap between theoretical models, which often rely on simplifying assumptions, and the complex reality of mobile network operation, characterized by dynamic traffic patterns, unstable communication channels, and limited energy and computational resources, especially at the network edge. The article also addresses factors that limit the practical use of existing optimization algorithms, including high computational costs, data processing delays, and difficulties in scaling to large numbers of connected devices. To address these challenges, the article discusses promising research directions, including the integration of artificial intelligence, mobile edge computin), self-organizing networks, and hybrid optimization methods that combine the strengths of different approaches to achieve greater flexibility and adaptability. In particular, the implementation of decentralized control systems is considered promising, as they allow real-time responses to changes in the network environment. By gaining deeper insight into current challenges and technological opportunities, this article provides a valuable roadmap for future academic and applied research in 5G optimization. Continued exploration in the field of resource management—including efficient spectrum allocation, latency reduction, improved energy efficiency, and increased resilience to external influences—is critical for achieving stable, high-performance, and reliable operation of next-generation wireless networks, in line with the demands of the digital society and the evolution of Internet of Things, autonomous transport, and industrial automation technologies. Метою цієї статті є надання вичерпного огляду сучасних методів оптимізації мереж п’ятого покоління (5G) з використанням математичних моделей та алгоритмів. У статті наведено всебічний аналіз підходів до вдосконалення продуктивності 5G-мереж, з акцентом на мінімізацію затримок, забезпечення високої енергоефективності та підвищення спектральної ефективності, що є ключовими параметрами для задоволення потреб сучасних мобільних сервісів та критичних застосунків. Обговорення охоплює аспекти застосування теоретичних методів, таких як лінійне і нелінійне програмування, стохастичне моделювання, алгоритми машинного навчання та підходи надійної оптимізації, які відіграють важливу роль у проектуванні ефективних рішень для динамічних і ресурсно обмежених середовищ 5G. Незважаючи на значний прогрес, досягнутий в останні роки, залишається низка викликів, перш ніж ці технології зможуть бути повноцінно реалізовані в умовах реальних комерційних мереж. Однією з ключових проблем є розрив між теоретичними моделями, які часто базуються на спрощеннях, і складною реальністю функціонування мобільних мереж, де присутні динамічні зміни трафіку, нестабільність каналів зв’язку, обмеженість енергетичних та обчислювальних ресурсів, особливо на краю мережі. Також розглядаються фактори, що обмежують застосування існуючих алгоритмів оптимізації, включаючи високі обчислювальні витрати, затримки в обробці даних і труднощі з масштабуванням в умовах великої кількості пристроїв. Для вирішення цих проблем у статті обговорюються перспективні напрямки досліджень, включаючи інтеграцію штучного інтелекту, MEC, SON та гібридних методів оптимізації, які поєднують переваги різних підходів для досягнення вищої гнучкості та адаптивності. Зокрема, перспективним є впровадження децентралізованих систем управління, що дозволяють реагувати на зміни мережевого середовища в режимі реального часу. Отримуючи більш глибоке розуміння існуючих проблем і технічних можливостей, ця стаття надає цінну дорожню карту для подальших наукових і прикладних досліджень у галузі оптимізації 5G. Продовження досліджень в області управління ресурсами, включаючи ефективне розподілення спектра, зниження затримок, покращення енергоефективності та підвищення стійкості до зовнішніх впливів, має вирішальне значення для досягнення стабільної, високопродуктивної та надійної роботи бездротових мереж наступного покоління, що відповідає вимогам цифрового суспільства та розвитку технологій Інтернету речей, автономного транспорту і промислової автоматизації.