曹丕代汉后，降刘协为山阳公，他和他的后代便一直在山阳生活。到了刘阿知的时代，曹魏又被西晋取代，他们也从前朝遗族变成了前前朝遗族，地位更加下降。
再加上司马炎执政后期，天下已经开始出现乱象，于是刘阿知召集族人们商议过后，于西晋太康十年（公元289年），带着他们东渡日本避祸。
应神天皇接纳了他们并给予土地让他们定居，之后刘阿知又招来了一些流落在朝鲜半岛的汉人工匠，还与儿子刘都加一同奔赴吴国，招来了兄媛、弟媛、吴织、穴织四名擅长缝纫的工人。
其后，父子两人在皇位交替过程中给予了新天皇帮助，天皇继位后，赐他们直姓，二人成为日本东汉氏的祖先。
刘阿知在日本生活了49年，历经三代天皇，去世时已经九十岁有余。
