Изучены возможности применения численных методов исследования устойчивости бортов карьеров с учётом запредельной деформируемости горных пород, в том числе определение механические характеристики массива горных пород. Математические модели породного массива, отражающие полный комплекс прочностных и деформационных свойств горных пород, необходимо реализовать в виде численных процедур, обеспечивающих выполнение заданных законов состояния. В работе данная задача осуществлена с помощью метода конечных элементов. Разработаны метод и численные процедуры на основе деформационной теории пластичности и метода конечных элементов, реализующие линейно-упругий характер деформирования породного массива в допредельной области и разрыхляемость, разупрочняемость в запредельной стадии деформирования. Основной целью работы является разработка процедур, реализующие математическую модель определение механические характеристики массива горных пород на основе численного метода конечных элементов. Полученная новая эффективная численная процедура реализации предложенной модели на основе метода конечных элементов, позволяет в единой расчётной схеме учитывать технологическую последовательность отработки месторождения. Рассмотренные процедуры решения нелинейных задач применима к средам как упрочняющимся, так и разупрочняющимся с ассоциированным и неассоциированным законами состояния.