ご覧のとおり官報には「龍ケ崎市」と記載されています。
このことを根拠として市役所では「龍ケ崎市」を正式な表記の仕方として統一しているわけです。
それでは「竜ケ崎市」という表記がなぜあったのか、「竜ケ崎市」という表記は間違いなのか、ということになりますが、これは常用漢字が関係してきます。
「竜」の字は、昭和56年に常用漢字とされました。「龍」の字は常用漢字ではありません(「竜」の旧字体とされています。)。
昭和33年の旧自治庁(現在の総務省)の通知により、常用漢字ではない字を常用漢字に書き改めたとしても、法令上有効なものと認められる、との見解があり「竜ケ崎市」を使用していた、といった経過があります。
ですから「竜ケ崎市」と書いたからといって間違いということにはなりません。