Невозможность решения в радикалах уравнений пятой или большей степени была наконец доказана в 1826 г. молодым норвежским математиком Нильсом Хенриком Абелем (1802—1829).
Абель родился в небольшой деревушке Финней на юге Норвегии в семье пастора. Он был вторым ребенком, рос хрупким, болезненным мальчиком. Школьный учитель Абеля Хольмбое в отчете писал о Нильсе: «Несомненный математический гений… <.. .> Он сочетает, безусловно, гениальные математические способности с неистощимым интересом к науке. Если с ним ничего не случится, он станет большим математиком». В первоначальном варианте отчета стояло даже «самым выдающимся математиком мира», но, по-видимому, школьное начальство решило, что такая оценка слишком высока для семнадцатилетнего юноши.
Еще в школе Абель начал самостоятельные исследования. Со свойственной юности самонадеянностью он принялся за задачу, не поддавшуюся усилиям многих выдающихся математиков XVII и XVIII вв., — за решение уравнения пятой степени
После нескольких недель напряженной работы Абелю показалось, что задача решена — искомые формулы получены. Работу юного математика проверяли и Хольмбое, и многие профессора университета, и крупнейший из скандинавских математиков профессор Копенгагенского университета Деген. Никто из них не смог найти ошибки в его вычислениях. Проверка на конкретных уравнениях показала, что ошибочными были формулы.
Закончив в 1821 г. школу и выдержав экзамен в университет, Нильс обратился с просьбой предоставить ему бесплатное общежитие и стипендию. Стипендия была ему необходима: в 1820 г. отец Абеля скончался, оставив семью без средств к существованию. Получив стипендию, Абель выписал к себе младшего брата, чтобы облегчить жизнь другим членам семьи. С этого времени и до самой смерти Нильс был вынужден ежедневно думать о том, как заработать немного денег, чтобы не умереть с голоду и расплатиться с многочисленными долгами.
Вскоре у него появились печатные работы. К несчастью, они остались незамеченными, так как были написаны на норвежском языке, а этого языка не знал никто из современных ему выдающихся математиков. Абель стал решать уравнения, в которых искомая функция находится под знаком интеграла. Никто до Абеля интегральных уравнений не решал: математики тогда интересовались дифференциальными уравнениями. Лишь в конце XIX в., когда начала развиваться общая теория интегральных уравнений, стало ясно, что Абель на многие десятилетия предвосхитил будущие математические исследования.
Зимой 1822—1823 гг. Абель написал работу, посвященную интегрированию функций. Он решил выяснить, при каких условиях интеграл данной функции можно выразить через элементарные функции. Его работа, по-видимому, содержала очень интересные математические идеи, но дать ей точную оценку невозможно, ибо рукопись впоследствии бесследно исчезла и судить о ней можно лишь по сухим строчкам протоколов ученого совета и наметкам, разбросанным в других рукописях Абеля.
Профессор Деген посоветовал Абелю заняться теорией эллиптических интегралов. При вычислении длины дуги эллипса получается интеграл
Если , то интеграл равен . При других же значениях выразить этот интеграл через элементарные функции не удается. Пришлось ввести новый класс трансцендентных функций — эллиптические интегралы. Так назвали интегралы, содержащие квадратные корни из многочленов четвертой степени. Целый ряд замечательных свойств таких интегралов открыли Эйлер, Лежандр, Гаусс.
Абелю удалось найти общую формулу, частными случаями которой были многие ранее известные соотношения для таких интегралов. Вскоре он пришел к идее, позволившей коренным образом изменить всю тематику этого направления: вместо эллиптических интегралов изучать обратные им функции. Новые функции получили название эллиптических функций. Абель доказал, что эти функции являются периодическими. Оказалось, что в отличие от тригонометрических функций эллиптические функции имеют два различных периода, причем один из них действительный, а другой комплексный. Это потребовало углубления в только что созданную в то время теорию функций комплексного переменного.
Позже Абель вновь занялся алгебраическими уравнениями. Анализируя свое решение уравнения пятой степени, он понял, что ложным было не только это решение, но и сам подход к задаче. Вот что написал он об этом: «Одной из интереснейших проблем алгебры является алгебраическое решение уравнений. Почти все выдающиеся математики исследовали этот вопрос. Без труда были получены общие выражения для корней уравнений первых четырех степеней. Для решения этих уравнений был открыт единый способ, и надеялись, что он применим к уравнениям любой степени; но, несмотря на все усилия Лагранжа и других выдающихся математиков, поставленная цель не была достигнута… <… > Предполагали решать уравнения, не зная, возможно ли это решение. В случае существования решения могли его получить, ничего о нем предварительно не зная; но если, к несчастью, решения не существовало, то его могли бы тщетно искать целую вечность. Для того чтобы получить наверняка некоторые результаты по этому вопросу, надо было выбрать иную дорогу, придав проблеме такой вид, чтобы она была всегда разрешима, а это можно сделать с любой проблемой. Вместо того чтобы искать некоторое соотношение, не зная, существует ли оно, надо спросить, возможно ли такое соотношение. .. <… > Этот метод, который, без сомнения, является единственно научным, поскольку лишь он позволяет быть заранее уверенным в достижении поставленной цели, мало применяется в математике только потому, что его применение связано с исключительными трудностями…».
Абелю удалось преодолеть эти трудности: он доказал, что общее уравнение пятой степени неразрешимо в радикалах, решение такого уравнения нельзя выразить через его коэффициенты с помощью арифметических действий и извлечения корней.
Таким образом, проблема, над которой математики бились веками, к началу 1824 г. была полностью решена. Чтобы скорее сделать полученный результат достоянием ученых, Абель на свои средства отпечатал на французском языке брошюру с доказательством; однако из-за недостатка средств ему пришлось сократить изложение до шести страниц и предоставить читателю возможность додумать детали многих рассуждений. Не удивительно, что лишь немногие математики смогли полностью разобраться в содержании этой работы. Даже Гаусс, больше всех интересовавшийся теорией алгебраических уравнений, затерял брошюру Абеля среди своих бумаг. Впоследствии Абель опубликовал развернутое доказательство своей теоремы, занявшее несколько десятков страниц .
Вскоре выяснилось, что за несколько лет до Абеля аналогичный результат получил итальянский ученый Паоло Руффини. И хотя доказательство Руффини было неполным, все же теорему о неразрешимости уравнения пятой степени в радикалах теперь называют теоремой Руффини — Абеля.
Итак, Абель вписал последнюю страницу в длинную главу классической алгебры. Теория уравнений в традиционной форме была в основном завершена.
Описанный круг идей Абель разрабатывал на протяжении 1824—1826 гг., когда, окончив университет, отправился за границу для продолжения образования. Он побывал в Германии, Австрии, Италии, Швейцарии, Франции, Бельгии.
На очередном заседании Парижской Академии наук 30 октября 1826 г. ее бессменный секретарь Фурье представил собравшимся норвежского математика Нильса Хенрика Абеля и его «Мемуар об общих свойствах весьма широкого класса трансцендентных функций». Заключение о представленной работе было поручено дать Ле- жандру и Коши. Докладчиком утвердили Коши. Трудно было найти менее подходящую кандидатуру: Коши был настолько увлечен собственными исследованиями, что у него не оставалось времени ни на что другое. Работа Абеля затерялась среди рукописей, загромождавших кабинет Коши. Напрасно Абель ждал признания французских ученых: «Мемуар» нашелся только после его смерти.
Совсем скоро Абель понял, что денег, отпущенных ему на заграничную командировку, недостаточно, и решил вернуться домой. В Осло он с огорчением осознал, что никому не нужен, — ему даже не предоставили места с постоянным заработком. По его просьбе в сентябре 1827 г. коллегия университета приняла решение выплачивать Абелю 200 талеров в год — ровно столько, сколько он получал в студенческие годы. В марте 1828 г. ему поручили вести занятия по механике и астрономии вместо уехавшего в экспедицию профессора Ханстина, а также избрали в Королевское научное общество Норвегии. Это было единственным официальным признанием за- слуг Абеля при жизни.
В 1828 г. Абель узнал, что его тематикой очень успешно занимается немецкий ученый Карл Густав Якоб Якоби. Весь этот год прошел в соперничестве двух молодых математиков. За их «состязанием» с большим интересом следил Гаусс: в его юношеских дневниках, написанных, когда ни Абеля, ни Якоби еще не было на свете, описывались многие их достижения. Но Гаусс не торопился публиковать свои результаты, о них узнали только после его смерти. Ни Абеля, ни Якоби в то время уже не было в живых. Они и не подозревали о работах своего великого предшественника, хотя их теоремы, а иногда даже и обозначения, совпадали с гауссовскими. Но в одной области Абель все же превзошел не только Якоби, но и Гаусса. Он разработал общую теорию интегралов от эллиптических функций, частным случаем которой являлась теория эллиптических функций, изложенная в работе, лежавшей непрочитанной среди бумаг Коши.
Соперничество с Якоби было нелегким для Абеля. Он недосыпал, недоедал, все это сказывалось на его здоровье. В конце декабря 1928 г. Абель сильно простудился, в марте 1829 г. уже почти не вставал с постели, а 6 апреля 1829 г. умер.
Гений Абеля был признан лишь после его смерти. На заседании Парижской Академии наук 11 июня 1829 г. Лежандр объявил о смерти Абеля. Теперь Коши потребовалась всего неделя, чтобы подготовить свое заключение. На очередном заседании Академия выслушала сообщение Коши и приняла решение опубликовать «Мемуар» Абеля в серии работ иностранных ученых, присудив ему вместе с Якоби Большую премию за выдающиеся математические открытия.