A história da empresa começou em 1887 quando Torakusu Yamaha, que consertava órgãos avariados numa escola primária, teve a ideia de construir ele mesmo seus próprios órgãos. Superou grandes dificuldades e teve sucesso na produção do primeiro órgão de bambu feito no Japão. Foi então que ele resolveu formar a Yamaha Reed Organ Manufacturing Company no ano seguinte. Em 1892 a empresa já exportava seus primeiros 78 órgãos para outros países da Ásia.

No dia 12 de outubro de 1897, ele fundou oficialmente a Nippon Gakki Co. Limited (literalmente "Japan Musical Instrument Manufacturing Co.”) em Hamamatsu, Shizuoka no Japão, responsável pela idealização do primeiro piano japonês. O desenvolvimento da arte de criar instrumentos musicais e consequentemente equipamentos para a sua reprodução sonora veio como uma consequência natural!