В статье рассматриваются прямые и обратные задачи системы нелинейных дифференциальных уравнений. Такие задачи часто встречаются в различных областях науки, особенно в медицине, химии и экономике. Одним из основных способов решения нелинейных дифференциальных уравнений является численный метод. Исходная прямая задача решена методом Рунге-Кутты со второй точностью и показаны графики численного решения. Поставлена обратная задача о нахождении коэффициентов системы нелинейных дифференциальных уравнений с дополнительной информацией о решении прямой задачи. Численное решения данной обратной задачи сведена к минимизации целевого функционала. Одним из методов, который применим к негладким и зашумлённым функционалам, безусловной оптимизации функционала от нескольких переменных, не использующий градиента функционала является метод Нелдера-Мида. В статье приведен алгоритм Неллера-Мида. А также показаны численное решение обратной задачи.