이 정사는 서애 선생이 노후에 한가로이 지내면서 학문을 하기 위해 세우려 하였으나 재력이 없어 짓지 못했다. 그러던 중 승려 탄홍(誕弘)이 스스로 10년이나 시주를 모아 선조19년(1586)에 완성한 우정의 산물로 선생의 덕망이 얼마나 두터웠는지를 알려주는 증거이다.
처음에는 옥연서당(玉淵書堂)이라 했는데, 옥연(玉淵)은 정사 바로 앞에 흐르는 깊은 못의 색조가 마치 옥과 같이 맑고도 맑아서 서애 선생이 이름하였다. 선생은 이 집에서 임진왜란의 회고록인 「징비록(懲毖錄)」을 구상하고 저술하였다.
건물의 특징은 산기슭에 자리잡고 있으면서도 터가 넓고 평탄한 것과 사랑채와 별당채는 남향이며, 안채와 행랑채는 동향으로 지은 것이다.