Sekolah ini ditubuhkan pada tahun 1918 dengan menyewa sebuah kedai sebagai bilik darjah. Mula-mulanya hanya terdapat 20 orang murid sahaja. Oleh kerana bilik darjah itu terlalu sempit serta tidak sesuai digunakan lagi, maka selepas dua tahun orang-orang awam pun bercadang untuk membina sebuah sekolah baru. Satu jawatankuasa pembinaan sekolah telah ditubuhkan pada tahun 1923. Encik Tan Tiong Kuan, Leng Yee Teik, Ban Siew Pong, Khor Thang Mua, Ong Boon Chai, Ooi Siew Kaw, Neoh Yew Hong, dan lain-lain dilantik menubuhkan tabung untuk mengutip derma bagi pembinaan sekolah selama dua tahun. Atas keprihatinan dan kerjasama orang-orang awam, sebuah kedai dapat dibeli pada tahun 1925 sebagai tapak sekolah dan sejak tahun tersebut, semua murid belajar di situ. Sekolah ini dinamakan YORK KHOON. Bilangan murid bertambah menjadi 40 orang dan terdapat dua orang guru.
Dalam zaman penjajahan Jepun, sekolah ini ditutup. Pada tahun 1945, sekolah ini dibuka semula tetapi malangnya bangunan dan alat-alat sekolah telah banyak dirosakkan. Para sukarelawan bertungkus-lumus memperbaiki dan memperluaskan bangunan sekolah. Mujurlah Encik Ban Siew Pong telah sudi meminjam kedainya sebagai sekolah selama 3 tahun. Beliau dilantik sebagai pengerusi Lembaga Sekolah (1945-1959), kemudian diikuti oleh En. Leng Kok Cheng (1960-1967), En Tan Khar Yean (1968-1980) dan En Ooi Say Han (1981-1992).
Bilangan murid menjadi 100 orang menjelang tahun 1954. Bilik- bilik darjah tidak mencukupi lagi dan tidak dapat memenuhi keperluan yang sepatutnya. Lantaran itu, Lembaga Pengelola Sekolah pun menubuhkan satu jawatankuasa pembinaan sekolah dan melantik Encik Ban Siew Pong sebagai pengerusi. Ahli-ahli jawatankuasa ialah Leng Kok Cheng, Chuah Seong Leng, Tan Chee Wan, Chao Hook Keong, Lean Yee Teik, Ong Chiew Lim, dan Chua Chui Keat. Mereka mengadakan tabung derma selama 3 tahun dan membeli sebidang tanah di Jalan Pegawai sebagai tapak sekolah. Bangunan baru itu menelan belanja lebih kurang RM 30,000 dan telah siap dibina pada tahun 1957. Bangunan itu mempunyai 4 buah bilik darjah, sebuah dewan, 3 buah asrama guru dan sebuah dapur,
Pada tahun 1958, sekolah ini menerima bantuan modal daripada kerajaan dan bertukar nama menjadi Sekolah Rendah Jenis Kebangsaan (Cina) York Khoon.
Senarai Guru Besar SJK(C) York Khoon
Nama Guru Besar | Tempoh Berkhidmat |
Chua Pu Tong Yong Xin Xiong Lee Boon Tiong | 1918-1962 |
Tan Yong Hee | 1963-1964 |
Ong Eng Kung | 1965-1984 |
Choo Chooi Pow | 1985-1987 |
Teh Yong Noh | 1987-1992 |
Lim Te Hoou | 1992-1996 |
Teh Siew Kee | 1996-1998 |
Ong Sow Guik | 1998-1999 |
Ooi Hok Keong | 1999-2003 |
Goh Sa Sa | 2003 -Sekarang |
