고대 그리스 기하학이 정점에 이른 것은 유클리드의 저작 ‘원론’에 이르러서였다. 그는 그때까지 그리스 수학자들이 이루었던 성과를 13권의 원론에 체계적으로 정리하였으며, 특히 5개의 공준(postulate)으로부터 연역적으로 정리들을 이끌어내는
논증 방식은 이후의 수학 발전에 큰 영향을 미쳤다. 17세기 후반에 이르러서는 데자르그와 파스칼에 의해
사영기하학(Projective Geometry)이라는 기하학의 새로운 분야가 개척되기 시작했다.
르네상스 시대의 이탈리아에서는 조형미술이 크게 발달하였다. 그 당시
교회의 건축에 종사했던 사람들은 실용적인 입체기하학을 필요로 했으므로 실용적인 기하학의 발전을 가져왔다. 또, 회화나 조각의 진보에 따라 그 당시까지의 화법에도 반성이 일어나 원근을 고려에 넣는 화법, 즉 원근법 또는 투시법이 나타나게 된다.
투시법 또는 원근법은 1417년 무렵 건축가 브루넬레스키가 최초의
실험적 시도로써 원근법과 소실점에 대한 과학적 접근을 완성한 이후, 회화에서는 마사치오에 의한 피렌체의
산타마리아노벨라 성당의 벽화 ‘삼위일체’에서 최초로 실현되었다. 기본적으로 투시법은 우리가 보고 있는 물체를, 눈에 보이는 그대로
한 장의 종이 위에 재현하는 방법이다. 그러기 위해서는, 우리들의
눈과 우리들이 보고 있는 물체 사이에 한 평면을 놓고, 우리들의 눈과 물체 위의 임의의 점을 연결하는
직선을 생각하여, 그 직선들을 이 평면으로 자른 점을 이어감으로써 단면도를 그려 가면 된다.
예를 들어, 수평인 평면 P위에
한 정사각형 ABCD가 있다면, 우리들의 눈 S와 평면 P사이의 한 평면 P'을
두고, 직선 SA, SB, SC, SD와 평면 P'과의 교점을 각각 A', B', C', D'이라 할 때, A'B'C'D'이 정사각형 ABCD의 투시도가 된다. 이 경우에, 다음 그림에서,
A'D'은 B'C'보다 짧게, 또 평행인 두
직선 AB와 DC는 점 V에서
만나는 두 직선 A'B'과 D'C'처럼 보이게 된다. 사진을 찍으면, 평행인 철도 선로가 한 점에서 만나는 것처럼 보이는
것은 우리들이 일상 속에서 경험하는 바와 같으며, 이 점 V를 소실점(Vanishing Point)이라 부른다.
하지만 빛과 함께 시시각각 움직이는 색의 변화에 중점을 둔 인상주의 이후에 정밀한 원근법이 사라지게 되었다. 특히 세잔, 고갱 등은 작품의 의도를 잘 나타내기 위해서 일부러
원근법을 사용하지 않았고, 사물을 여러 시점에서 보고 입체적으로 그리는 입체파가 등장하면서 원근법은
완전히 사라지게 되었다.
투시법에서와 마찬가지로, 두 고정된 평면 P, P'과 그 위에 있지 않는 고정점 O를 두고, P 위의 도형 F의 각 점 X에
대하여 직선 OX와 P'과의 교점 X'을 대응시키면, X가 도형 F를
그릴 때, X'은 P' 위에서 도형 F'을 그리게 된다. 이같이 하여 정해지는 평면 P에서 P'으로의 함수를 사영변환(Projective
Transformation)이라 부른다. 이 같은 사영변환에 의하여 불변인 도형의 성질을
조사하는 기하학이 바로 사영기하학(Projective Geometry)이다. 사영변환에 의하여 직선은 직선으로, 두 직선의 교점은 두 직선의
교점으로, 도형의 내부는 도형의 내부로 각각 옮겨간다. 그러나
사영변환에 의하여 길이나 꼴은 보존되지 않는다. 또 사영기하학에서는 평면 위의 어떤 두 직선도 한 점을
공유한다.