6세 때부터 월출산을 보며 서당에 나가 한문을 배웠다 마을 서당에서 공부하다가 형편이 좀 나아지자 영암읍에서 10리 떨어진 송계리 영명재(永明齋)에 가서 숙식을 하며 통감 둘째 권부터 새로 공부하기 시, 문명흠(文明欽 )의 문하에서 수학하였다.

그는 어려서 한학을 수학하였으며 늦은 나이인 1908년 13세에 영암보통학교(초등학교)에 입학하였다. 그해 문중의 주선으로 같은 마을에 살던 4년 연상의 김옥성(金玉聲)과 결혼했다. 이후 그는 60년간 축첩하지 않고 아내와 해로하였다.

1910년 2월 영암보통학교를 졸업하고 경성으로 상경, 한성고등보통학교(경기중학교·경기고등학교의 전신)에 입학하였다. 한일합방 전이었으나 경기고등보통학교에는 일본인 교감이 있었는데, 이때의 일본인 교감은 조선인 학생들이라 하여 무시하지 않았다 한다. 그는 오래도록 이를 기억하였다. 그해 7월 21일에 어머니 한씨가 사망하였다. 어머니 상 직후 한때 방황하였으나 다시 마음을 다잡고 공부에 전념하였다. '어린 마음에 어머니를 이별한 상처가 가시지 않아 절망하여 방황했으나, 반드시 학업을 성공해 보겠다는 결심으로 여름방학을 지난 다음에 다시 학교로 돌아갔다

고등학교 재학 중 한일합방 이후 교명이 한성고등보통학교에서 경성고등보통학교로 변경되었다. 경성고보 재학 중 일본에 유학중이던 이가 도쿄 제국 대학이 최고의 대학이라고 소개하였다.

경성고등보통학교를 다닐 때 호남학생친목회 주최로 당시 도쿄제국대학에 재학 중이던 남궁영씨와 그 외 몇분을 초대하여, 환영회를 한 적이 있다. 이 때 사회를 보던 어떤 이가 도쿄제국대학은 동양에서 제일가는 학교라고 소개하여 나는 기어코 도쿄제국대학을 가려고 마음먹었다. 

그의 소개를 듣고 그는 일본 도쿄 제국 대학에 진학할 결심을 한다. 1914년 3월 23일 경기공립고등보통학교를 전교 6등으로 졸업하고, 일본으로 유학을 결심한다.

졸업식 날 동창생인 이긍종, 민태원 등과 학교 운동장에서 놀던 중 교장 상전(上田)이 호출하였다. 상전 교장은 그에게 일본 유학을 포기하고 판임문관 견습시험을 보라고 권고했다 그러나 그는 반항하여 꼭 일본 동경제국대학에 입학해야겠다는 고집을 꺾지 않았다 그리고 그는 일본에 가서 도쿄제국대학에 들어가서 법률을 공부하여 꼭 변호사가 되겠다고 하였다 그러나 일본인 상전 교장은 그를 무시하였다.

변호사? 흥. 지금은 서양 법률사상이 처음으로 들어와서 사건이 많아서 변호사들이 밥을 먹지만, 그대가 동경제대에 들어가려면 일본에 가서 다시 중학 5년을 다녀, 고등학교 3년을 더 다녀 그리고 대학 4년을 마치면 12년이 걸리는데, 그 안에 질서가 잡히면 변호사들이 할 일이 없게 되어서 살아갈 수가 없게 된다. 그러니 일본 내지에 가서 공부하는 것을 단념하는 것이 상책일 것이다

일본인 교장은 만류했지만 그는 유학을 단행한다. 성년이 되자 그는 호를 낭산이라 지었다.
김준연이 초등학생이 된 해는?
1908