Теория чисел
Математики Древней Греции со времён Пифагора собирали и доказывали разнообразные утверждения, относящиеся к натуральным числам (например, методы построения всех пифагоровых троек, метод построения совершенных чисел и т. п.). Диофант Александрийский (III век н. э.) в своей «Арифметике» рассматривал многочисленные задачи о решении в рациональных числах алгебраических уравнений с несколькими неизвестными (ныне диофантовыми принято называть уравнения, которые требуется решить в целых числах). Эта книга (не полностью) стала известна в Европе в XVI веке, а в 1621 году она была издана во Франции и стала настольной книгой Ферма.
Ферма постоянно интересовался арифметическими задачами, обменивался сложными задачами с современниками. Например, в своём письме, получившем название «Второго вызова математикам» (февраль 1657), он предложил найти общее правило решения уравнения Пелля 
в целых числах. В письме он предлагал найти решения при a=149, 109, 433. Полное решение задачи Ферма было найдено лишь в 1759 году Эйлером.
Начал Ферма с задач про магические квадраты и кубы, но постепенно переключился на закономерности натуральных чисел — арифметические теоремы. Несомненно влияние Диофанта на Ферма, и символично, что он записывает свои удивительные открытия на полях «Арифметики».
Ферма обнаружил, что если a не делится на простое число p, то число 
всегда делится на p (см. Малая теорема Ферма). Позднее Эйлер дал доказательство и обобщение этого важного результата: см. Теорема Эйлера.
Обнаружив, что число 
простое при k ≤ 4, Ферма решил, что эти числа простые при всех k, но Эйлер впоследствии показал, что при k=5 имеется делитель 641. До сих пор неизвестно, конечно или бесконечно множество простых чисел Ферма.
Эйлер доказал (1749) ещё одну гипотезу Ферма (сам Ферма редко приводил доказательства своих утверждений): простые числа вида 4 k +1 представляются в виде суммы квадратов (5=4+1; 13=9+4), причём единственным способом, а для чисел, содержащих в своём разложении на простые множители простые числа вида 4 k +3 в нечётной степени, такое представление невозможно. Эйлеру это доказательство стоило 7 лет трудов; сам Ферма доказывал эту теорему косвенно, изобретённым им индуктивным «методом бесконечного спуска». Этот метод был опубликован только в 1879 году; впрочем, Эйлер восстановил суть метода по нескольким замечаниям в письмах Ферма и неоднократно успешно его применял. Позже усовершенствованную версию метода применяли Пуанкаре иАндре Вейль.
Ферма разработал способ систематического нахождения всех делителей числа, сформулировал теорему о возможности представления произвольного числа суммой не более четырёх квадратов (теорема Лагранжа о сумме четырёх квадратов). Самое знаменитое его утверждение — «Великая теорема Ферма» (см. ниже).
Многие арифметические открытия Ферма опередили время и были забыты на 70 лет, пока ими не заинтересовался Эйлер, опубликовавший систематическую теорию чисел. Одна из причин этого — интересы большинства математиков переключились на математический анализ.
Математический анализ и геометрия
Ферма практически по современным правилам находил касательные к алгебраическим кривым. Именно эти работы подтолкнули Ньютона к созданию анализа[3]. В учебниках по математическому анализу можно найти важную лемму Ферма, или необходимый признак экстремума: в точках экстремума производная функции равна нулю.
Ферма сформулировал общий закон дифференцирования дробных степеней и распространил формулу интегрирования степени на случаи дробных и отрицательных показателей.
Наряду с Декартом, Ферма считается основателем аналитической геометрии. В работе «Введение к теории плоских и пространственных мест», ставшей известной в 1636 году, он первый провёл классификацию кривых в зависимости от порядка их уравнения, установил, что уравнение первого порядка определяет прямую, а уравнение второго порядка — коническое сечение. Развивая эти идеи, Ферма пошёл дальше Декарта и применил аналитическую геометрию к пространству.
Другие достижения
Независимо от Паскаля Ферма разработал основы теории вероятностей. Именно с переписки Ферма и Паскаля (1654), в которой они, в частности, пришли к понятию математического ожидания и теоремам сложения и умножения вероятностей, отсчитывает свою историю эта замечательная наука. Результаты Ферма и Паскаля были приведены в книге Гюйгенса «О расчётах в азартной игре» (1657), первом руководстве по теории вероятностей.
Имя Ферма носит основной принцип геометрической оптики, в силу которого свет в неоднородной среде выбирает путь, занимающий наименьшее время (впрочем, Ферма считал, что скорость света бесконечна, и формулировал принцип более туманно). С этого тезиса начинается история главного закона физики — принципа наименьшего действия.
Ферма перенёс на трёхмерный случай (внутреннего касания сфер) алгоритм Виета для задачи Аполлония (касания окружностей)[4].
Великая теорема Ферма
Для любого натурального числа  уравнение
не имеет натуральных решений  ,  и  .
|
Ферма широко известен благодаря так называемой великой (или последней) теореме Ферма. Теорема была сформулирована им в 1637 году, на полях книги «Арифметика» Диофанта с припиской, что найденное им остроумное доказательство этой теоремы слишком длинно, чтобы привести его на полях.
Вероятнее всего, его доказательство не было верным, так как позднее он опубликовал доказательство только для случая 
. Доказательство, найденное в 1994 году Эндрю Уайлсом, содержит 129 страниц и опубликовано в журнале «Annals of Mathematics» в 1995 году.
Простота формулировки этой теоремы привлекла много математиков-любителей, так называемых ферматистов. Даже и после решения Уайлса во все академии наук идут письма с «доказательствами» великой теоремы Ферма.