경북 영일 출신인 고인은 서울대 미학과 학부와 대학원을 졸업했으며, 1970∼1980년대 독재정권에 맞서 진보적 예술 운동을 조직하는데 앞장섰다. 추상미술이 번지던 화단에서 비평과 기획을 통해 민중 미술의 이론적 틀을 제시했다.
독재 정권의 탄압을 받아 1975년 긴급조치9호 위반으로 구속되면서 이화여대 미학과 교수직에서 해직되는 등 고초를 겪기도 했다.
1983∼1998년 계간 '창작과 비평' 편집위원과 발행인 및 대표를 지냈고, 1984∼2001년 영남대 미대 회화과 교수로 재직했다.
2000년 결성된 한국민족예술인총연합('민예총') 초대 이사장으로도 활동하는 등 진보적 예술 진영의 구심점 역할을 했다.
그는 노무현정부 때인 2003년부터 5년간 국립현대미술관장으로 재직하면서 과천관 서울 이전, 학예실 강화 등 다양한 개혁을 추진했다.
이명박 정부 초기인 2008년 11월 임기를 10개월가량 남겨놓은 상태에서 해임되면서 논란의 중심에 섰다. '코드인사' 물갈이라는 비판이 제기된 가운데 고인은 해임 무효 소송을 제기해 승소했다.
저서로는 '한국현대회화사'(1975), 번역서로는 존 버거 '피카소의 성공과 실패'(1984), 허버트 리드 '현대회화의 역사(1991) 등이 있다.
장례는 민족예술인장으로 치러진다. 유홍준 전 문화재청장이 장례위원장을 맡았고 박불똥·백낙청·백기완·신학철·김정헌·임옥상·강요배 등 진보진영 인사들이 장례위를 구성했다.
유족으로는 동생 김익수(영남대 명예교수)와 부인 김정업(상담심리사) 씨가 있다. 빈소는 서울대병원 장례식장 1호실에 마련됐다. 발인은 12월 2일.