이곳을 사람들은 "구남연(龜南淵)이라고 부르고 있는데 지금도 대충 보면 시내 가운데 있는 바위 무더기가 마치 거북이가 웅크리고 있는 모습처럼 보이기도 하는데 예전 이곳을 왕래하던 사람들의 이야기로는 "처음에 이 바위가 이곳에 자리를 잡을 때는 마치 살아 있는 거북이와 똑같이 생겼으므로 사람들은 이를 보고 "우째 저런 큰 거북이가 와? …? 이 산골 도랑에 와 있노? 라 하며 놀라 마치 자라목 늘어지듯 목을 늘여 내려다보곤 하였다."라는 이야기도 있었다 한다.
또 달리 전해오는 이야기로는 "예전 중국 땅 남쪽 황화(黃河)의 맨 아래쪽 하구(河口)에 살며 맨날 누런 황토물만 먹으며 대륙을 지키던 거북이 네 마리가 구정물 같은 황토물을 더는 먹기에 지쳐서 중국이고 황하가 뭐고 간에 모두 던져 버리고는 물 맑고 경치 좋은 곳을 찾아다니던 중에 조선(朝鮮)의 달산 옥계(玉溪)가 최고라는 이야기를 듣고는 제주도를 지나 호미곶을 건너 강구(江口) 오십천(五十川)으로 올라오던 중, 길을 잘못 들어 포항 칠포 앞바다에 도착하여 흥해 들을 지나 향로봉을 넘다가 세 마리는 향로봉 밑의 보경사(寶鏡寺)에 남아 절을 지키는 지킴이가 되었으며 그중의 한 마리 거북이만 용감하게도 향로봉을 넘고 죽장을 넘어 침수정으로 가다가 달산 옥계의 아름다운 경치와 옥같은 맑은 물에 정신을 잃은 나머지 이곳에 작은 못을 만들고 구남연(龜南淵))이라 이름을 붙이고는 영원토록 이곳에 살다가 끝내는 산신령이 되어 구남지, 깊은 곳에 엎드려 있으며 옥계를 영원히 지키고 있다."라 한다.
대개 거북 형상을 한 바위에 대한 설화는 장수(長壽)의 상징이자 상서로운 동물로 알려진 거북을 신성하게 여기는 데서 출발한다. 예로부터 거북은 용, 기린, 봉황과 함께 사령(四靈)으로 일컬어졌으며 재물(財物)을 가져다주거나 신령스러운 기운을 가져다주는 동물로 알려져 있다. 이런 바위가 지켜주는 우리 영덕은 구남연의 이 거북바위만 지켜보고있어도 오만 복(福)이 절로 굴러들어 올 것임이 틀림없는 사실일 터, 가끔 교대로라도 가서 보아줌도 좋은 일일 것이니…, 한번 시작해 봅시다.
다음은 구남연(龜南淵)과 주변의 경치를 읊은 손성을(孫星乙) 선생의 시(詩) 한 수이다. 선생이 거명(擧名)한 영덕의 도연명(陶淵明)과 사영운(謝靈運)은 어디에 계시는가… 옥계 37경을 읊은 새로운 시(詩)가 이어 나와야 할 텐데…
하나의 산 경치가 크고 아름답고 밝다고 하지만 一山光景大都明
구남연(龜南淵)의 경치가 제일로 이름이 높은데 水石龜南最擅名
지금 세상에 도연명과 사영운이 없음이 한스러우니 今世恨無陶謝子
기기묘묘한 절경이 있어도 그 형상 읊을 수가 없다네. 有如奇絶不能形