제1차 한일회담은 6.25전쟁이 한창이던 연합군 사령부 외교국장 시볼드의 중재로 1951년 10월 21일 예비회담을 계기로 시작되었다. 미국은 동북아시아에서 공산주의의 확장을 막기 위해서는 한국과 일본의 화해가 절대적으로 필요했다.
이후 1952년 2월 15일부터 이승만 정부는 일본의 요시다 시게루 내각과 본회담을 개최하였지만 서로의 주장이 크게 엇갈려 4월 21일 중단되었다.
그 후 1953년 4월 15일에 2차 회담이 열렸지만 역시 이승만의 평화선 문제, 재일교포의 강제퇴거문제 등의 합의점을 찾지 못하고 7월 23일에 결렬되었다. 10월 6일에 재개된 3차회담도 일본 수석대표 구보타 강이치로의 망언으로 결렬되어 수년 동안 열리지 못했다. 1957년에 예비회담을 통해 1958년 4월 15일에 제4차 본회담이 개최되었지만 재일교포 북송문제 등으로 교착상태에 빠진 뒤 4.19혁명이 발생하여 다시 중단되었다.
장면 내각 하에서 1960년 10월 25일 제5차 회담이 열렸지만 5.16쿠데타로 또 중단되는 우여곡절을 겪었다.
군사정부는 한일회담 타결에 적극적이었다. 파탄에 빠진 경제 상황 때문에 청구권 자금과 차관이 절대적으로 필요했기 때문이다. 1960년 10월 20일 재개된 6차회담은 급속히 진행되었고 1962년에 김종필-오히라 메모를 통해 사실상 합의를 마쳤다.