Актуальность работы. Совершенствование методов расчета устойчивости грунтовых откосов представляет собой важную задачу, решение которой необходимо при размещении зданий и сооружений на склонах для предотвращения оползневых процессов. В большинстве существующих методов расчета поверхность скольжения оползневого тела принимается круглоцилиндрической, что не всегда соответствует реальной картине. Цель работы: разработка методики расчета коэффициента устойчивости грунтовых откосов на основе метода предельного равновесия с использованием алгоритмов нелинейного программирования. Методы исследования. Решение выполняется в двумерной постановке. Линия скольжения отыскивается в виде полиномов второй и третьей степени, а также кусочно-линейной функции. Задача поиска линии скольжения ставится как задача нелинейной оптимизации. В качестве целевой функции выступает коэффициент устойчивости грунтового откоса, который для истинной поверхности скольжения должен достичь минимума. Определение коэффициента устойчивости выполняется методом касательных сил. Варьируемыми параметрами выбраны абсциссы точек пересечения свободной поверхности грунта с нижней поверхностью оползневого тела, а также промежуточные ординаты точек линии скольжения. Решение задачи нелинейной оптимизации выполнено в среде MATLAB с использованием пакетов Optimization Toolbox и Global Optimization Toolbox. Для поиска минимума целевой функции применяется метод внутренней точки, позволяющий найти локальным минимум, а также метод шаблонного поиска, который позволяет найти глобальный минимум. Результаты исследования. Демонстрация предлагаемой методики произведена на примере однородного грунтового откоса при действии на него только собственного веса. Показана сходимость метода при использовании в качестве линии скольжения кусочно-линейной функции при увеличении числа отрезков. Выявлено существенное отличие полученной линии от дуги окружности. Установлено, что при задании линии скольжения полиномами второй и третьей степени коэффициент устойчивости оказывается несколько выше, чем в случае применения кусочно-линейной функции. Для контроля достоверности результатов координаты точек полученной ломаной линии скольжения переданы в программный комплекс GeoStab, где выполнено независимое определение коэффициента устойчивости. Также в программе GeoStab для сравнения произведен расчет устойчивости рассмотренного склона при помощи метода круглоцилиндрических поверхностей. Использованы наиболее известные варианты данного метода, включая метод Феллениуса, Бишопа, Шахунянца, касательных сил, Янбу, Спенсера, Моргенштерна-Прайса. Кроме того, произведено сравнение с конечно-элементным расчетом в программном комплексе Plaxis.