外国人であり続ける

　やっぱり、外人には自国にいてもらいたくないものでしょうか？

外国人であり続けるということは、日本に対して当事者じゃない、余所者でいいと言ってるということでしょ。
外国人が外国人としてせいぜい数年日本にいることが問題なのではなく、外国人が在日という日本人(のような者)として居るからそれが気になる。
なにより、『外国人』であること(や外国人だったこと)が逃げ場に見えるんです。一生住みつづけると言っていても、何か不利益があったら(ないしは利が無くなったら)居なくなる、つまり逃げてしまうんじゃないかと感じてしまい、それが同時に犯罪を起こしても逃げられる立場にも見えるので不安になる。帰化が不安を払ってくれるわけではないけど、少しでも多くの安心が欲しいだけです。
一方で、帰化をせずに日本に住みつづけるというのは、日本(日本人)が在日から信用されていないという意味にもなる。自分たちのコミュニティを信用してない人を無条件に受け入れることは出来ません。
現実には日本人でも外国人でも同じことができるけれど、観念的な部分だから、反論すれば取り繕ってるように見られてなおさら悪い反応が返ってきます。また、個人が信用されても、それが外国人全体を信用することには繋がらないから、具体的な解決策はおそらく無いでしょう。あえて選ぶとすれば、日本人以上に日本人であると言って愛国者となる道ですか。
国籍という比較的分かりやすいものに現れてるけど、どんな形態のコミュニティにだって多かれ少なかれあるものだと思います。普通は漠然としたものだし、あからさまには表に出さないものが、出てきやすくなってるだけのことでしょう。