基礎理論
数学がきちんとした基礎の上に築かれていないという問題意識から、算術、解析、幾何などの数学の基礎となる分野の公理系が開発されました。
論理学では、自然数の理論を「算術」と呼んでいる。ジュゼッペ・ペアノは、ブールとシュレーダーの論理体系に量詞を加えた算術の公理を発表し、自らの名を冠した（ペアノ公理）。ピーノはフレーゲの研究を知らなかった。同じ頃、リチャード・デデキントは、自然数が帰納法によって一意に特徴づけられることを示した。デデキントは、ピアノの公理のような形式論理的な性質を持たない、別の性質を提案した。しかし、デデキントの研究は、自然数の集合の一意性（同型まで）、加算・乗算の後継関数による再帰的定義、数学的帰納法など、ペアノの体系ではアクセスできない定理を証明した。
19世紀半ば、ユークリッドの幾何学の公理に欠陥があることが知られるようになった。1826年にニコライ・ロバチェフスキーによって確立された平行定理の独立性に加え、ユークリッドが当然と考えていたある定理が、実はユークリッドの公理からは証明できないことが数学者によって発見された。その中には、「直線は少なくとも2つの点を含む」という定理や、「同じ半径の円の中心がその半径だけ離れている場合、その円は必ず交わる」という定理などがある。ヒルベルトは、パッシュの研究をもとに、幾何学の公理を完成させた。幾何学の公理化に成功したことで、ヒルベルトは自然数や実数線など、他の数学分野の公理化にも着手した。これは、20世紀前半の主要な研究分野となった。
19世紀には、関数の収束やフーリエ級数の理論など、実解析の理論が大きく発展した。カール・ワイエルストラスをはじめとする数学者たちは、「どこにも微分できない連続関数」など、直観を超えた関数を構築するようになった。それまでのように、関数を計算の規則や滑らかなグラフと考えるのは、もはや適切ではありませんでした。ワイアストラスは、自然数の性質を使って解析を公理化しようとする「解析の算術化」を提唱し始めた。極限と連続関数の現代的な(ε, δ)の定義は、1817年にボルツァーノがすでに開発していたが、比較的知られていなかった。コーシーは1821年に無限小で連続性を定義しました（Cours d'Analyse, page 34参照）。1858年、デデキントは、実数をデデキント切断による有理数で定義することを提案したが、この定義は現代でも採用されている。
カントールは、無限集合論の基本的な概念を構築した。カントールは、無限集合論の基礎となる理論を構築し、実数と自然数が異なるカーディナリティを持つことを証明した。その後20年以上にわたり、カントールは一連の出版物の中で超越数の理論を展開した。1891年には、実数の計数不可能性を証明するために対角線論法を導入し、この方法を用いて「いかなる集合もその冪集合と同じカーディナリティを持つことはできない」というカントールの定理を証明した。カントールは、すべての集合が整列しうると考えていたが、この結果の証明を出すことができず、1895年に未解決の問題として残したのである。

20世紀
20世紀初頭の数十年は、集合論と形式論理学が主な研究分野でした。非公式集合論にパラドックスが発見されたことで、数学自体が矛盾しているのではないかと考え、一貫性の証明を求める人が出てきました。
1900年、ヒルベルトは次の世紀に向けて23の有名な問題を提起した。最初の2つの問題は、それぞれ連続体仮説の解決と初等算術の無矛盾性の証明であり、10番目の問題は、整数上の多変数多項式に解があるかどうかを判断する方法を作り出すことであった。これらの問題の解決は、その後の数理論理学の方向性を決定づけた。また、1928年にヒルベルトが提起した「エントシャイトングス問題」の解決にも力が注がれた。この問題は、形式化された数学的な文が与えられたときに、その文が真か偽かを判断する手順を求めるものであった。

集合論とパラドックス
エルンスト・ツェルメロは、カントールが得られなかった「すべての集合は整列しうる」という証明を行った。この証明のために、ツェルメロは「選択の公理」を導入したが、これは数学者や集合論の先駆者たちの間で激しい議論と研究を引き起こした。この方法はすぐに批判されたため、ツェルメロは自分の証明に対する批判に直接対処する形で、結果の第二の説明を発表した。この論文によって、選択の公理が数学界で一般的に受け入れられるようになった。
しかし、最近発見された素朴集合論のパラドックスにより、選択公理への懐疑的な見方が強まっていった。パラドックスを最初に述べたのは、チェザレ・ブラリフォルティです。ブラリフォルティのパラドックスは、すべての序数の集まりが集合を形成できないことを示しています。その後、1901年にバートランド・ラッセルが「ラッセルのパラドックス」を、ジュール・リシャールが「リシャールのパラドックス」を発見しました。
ツェルメロは、集合論のための最初の公理を提示しました。これらの公理と、アブラハム・フレンケルが提案した置換公理を合わせて、現在、ツェルメロ・フレンケル集合論（ZF）と呼ばれている。ツェルメロの公理には、ラッセルのパラドックスを回避するためのサイズ制限の原理が組み込まれている。
1910年、ラッセルとアルフレッド・ノース・ホワイトヘッドによる『Principia Mathematica』の第1巻が出版された。この著作は、関数とカーディナリティの理論を、型理論という完全に形式的な枠組みの中で展開したもので、ラッセルとホワイトヘッドがパラドックスを回避するために開発したものです。型理論の枠組みは、数学の基礎理論としては普及しませんでしたが、『プリンキピア・メトカーフ』は20世紀で最も影響力のある著作の一つとされています。
フラエンケルは、ツェルメロのウレル要素を持つ集合論の公理から選択の公理が証明できないことを証明しました。その後、ポール・コーエンが、ウレル要素の追加は必要なく、選択の公理はZFでは証明できないことを示した。Cohenの証明により、強制法が開発され、現在では集合論における独立性の結果を確立するための重要なツールとなっています。