1925年，日本左翼人士山上正义来到上海，任日文报纸《上海日报》记者，为报道中国南方的革命形势，他以特派记者身份于1926年10月前往当时大革命的策源地广州。当时，鲁迅在广州，任中山大学文学系主任兼教务主任。山上正义在中山大学大钟楼鲁迅居室拜访了鲁迅，由此与鲁迅展开了半年多的密切交往。

    在广州，山上提出翻译《阿Q正传》，得到了鲁迅的许可。1928年3月，山上回到日本，并在翌年4月再度来到了上海。在这里山上不仅与鲁迅重新取得了联系，而且结识了另一位日本左翼人士尾崎秀实，并与尾崎一起积极参与了以“左联”为主体的上海左翼文化活动。其时对山上的译本，鲁迅抱有很大的期待，希望能成为一种定本。不过，山上的中文，似乎也并未达到上佳的程度，对作品中出现的典故或带有绍兴地方色彩的俚语，尚无法完全理解，一直到1931年初才得以完成。

    山上将译稿寄给鲁迅，希望得到鲁迅的校订。鲁迅对译稿作了85处订正并交还山上。山上的这一译本，以《中国小说集阿Q正传》为书名，译者署名为林守仁（山上正义）、沈端先（夏衍）、田泽清、白川次郎（尾崎秀实）共译，译者代表林守仁。此书于1931年10月由日本东京的四六书院作为“国际无产阶级丛书”的一种出版，由于此书由鲁迅亲手校订，所以成为当时最好的一种日译本。