야당 의원들은 청문회가 본격 시작되기 전부터 김 후보자 측의 불성실한 자료 제출을 지적하며 기선 잡기에 나섰다. 새정치민주연합 배재정 의원은 김 후보자 배우자의 계좌와 자녀의 주식 거래 내역 등에 대한 자료 제출을 요구하며 "무슨 검은 돈이냐. 야쿠자 자금이라도 되느냐"고 질타했다. 같은 당 안민석 의원도 "지금까지 본인이 평생 거래한 주식 내역을 오전까지 제출해라. 단 한건이라도 누락된다면 후보자를 주식 전문가로 낙인찍겠다"고 경고했다.
본격적인 질의가 시작되자 야당 의원들의 추궁은 강도를 더했다. 같은 당 박홍근 의원은 "교육시민단체가 실시한 여론조사에서 적합하지 않다는 의견이 96%였다. 이미 국민의 신망을 잃었기 때문에 이제라도 책임을 통감하고 물러서는 것이 대통령과 국민에 대한 도리가 아니냐"고 따졌다.
그러나 김 후보자는 각종 의혹을 부인하며 물러서지 않았다. 김 후보자는 '연구 부정 및 불법행위 지적들이 있는데 사퇴할 의향이 없느냐'는 유 의원의 질의에 "그렇다"며 자진사퇴 의사가 없음을 분명히 했다.
표절 논란에 대해서는 "일반적으로 공유되는 내용이 들어간 것은 그 분야에 있는 사람들에게 알려진 사실이기 때문에 그렇게 쓰였고 표절이 아니다"고 반박했다. 제자 논문을 가로채기했다는 의혹에 대해서도 "제자의 이름을 빼먹은 것은 실수"라면서도 "석사학위, 박사학위 논문은 미간행물이기 때문에 조금이라도 도움이 되도록 하기 위해 실었다"고 해명했다.
여당 의원들은 야당의 공세에 맞서 대체로 김 후보자를 엄호하는 분위기였지만 논문 표절 의혹만큼 강하게 질책하기도 했다. 새누리당 안홍준 의원은 "다른 장관 후보자라면 어느 정도 관행으로 인정하고 넘어갈 수 있다고 보는데 교육 수장이 될 분이기 때문에 관행이든 잘못된 것은 시정할 분이기 때문에 문제가 있다"고 지적했다.
김 후보자는 특히 5.16 쿠데타를 '불가피한 선택'이라며 사실상 옹호하는 발언을 해 야당 의원들의 반발을 샀다. 김 후보자는 "당시 우리가 최빈국의 하나였고 여러 가지로 상황이 어려웠다"며 "단정적으로 말하기보다는 불가피한 선택이 아니었나"라고 말했다.
이를 두고 야당 의원들이 "교육부 수장의 역사인식에 문제가 있다"며 강하게 질책하자 김 후보자는 "불가피한 선택이었고 그것이 지금은 정변 또는 쿠데타로 정리되고 있지만 저는 쿠데타보다 정변이라는 쪽에 제 생각이 더 가있다"고 한발 물러섰다.
그럼에도 새정치연합 유기홍 의원은 "역사 교육을 담당하는 후보가 지금의 교과서를 부정하면서 장관이 되면 역사 교과서에서 5.16이 정변이 아니라고 바꿀 거 아니냐. 근본적으로 이 문제를 다시 생각해야 한다"고 지적했다.
김 후보자는 사교육업체인 아이넷스쿨 등에 대한 주식투자 논란에 대해서는 "내부자 거래를 했으면 어떻게 손해를 봤겠느냐"고 반박하기도 했다. 그러나 '교원 양성을 목적으로 하는 교원대 교수가 사교육업체 주식 투자를 한 것이 문제가 안 되냐'는 질문에 "(문제가) 안 된다"고 답하거나 "쉬는 시간에는 얼마든지 투자를 해도 괜찮다"는 취지로 발언해 빈축을 사기도 했다.
김 후보자는 더구나 의원들의 질의에 한참을 뜸들이거나 '동문서답'을 하다가 질타를 받는 일도 잦았다. 유기홍 의원은 "기본적으로 후보자가 의원들 질문 내용을 이해하는 정도가 소통에 문제 있지 않을까 정도로, 말귀를 잘 못 알아들으시는 것 같다"고 말했다. 설훈 위원장은 "혹시 난청이 있느냐"고 묻기도 했고, 여러 차례에 걸쳐서 "의원들의 질의를 집중해서 정확하게 듣고 취지에 맞춰 답변을 하라"고 촉구했다.
김 후보자는 심지어 거듭된 추궁에 "자꾸 윽박지르지만 마시라"고 반발했다가 "표현을 거칠게 해서 죄송하다"며 사과하는 일도 있었다. "청문회를 사실은 낭만적으로 생각했다. 그 의미는 이렇게 백주대낮에 발가벗겨져서 내동댕이처지리라고는 꿈에도 생각 못했다"는 답변을 하거나 "30초만 숨 쉴 시간을 달라"는 '엉뚱한' 요청을 하기도 했다.
또한 '논문 관련해서 수많은 탈법과 불법 의혹이 있는데 이걸 어떻게 뿌리뽑을 수 있겠냐'는 지적에 대해 "저는 뿌리를 뽑거나 그런 사람이 아니다"고 말한 뒤 재차 "뿌리뽑을 의지와 각오도 없으면서 장관과 부총리를 하겠다는 것이냐"고 추궁당하자 "제가 뿌리뽑겠다고 하면 또 가만히 계시겠냐"는 반론을 하기도 했다.