天平13年（741），聖武天皇の勅願により，常陸国の寺として建立された。
常陸国分尼寺跡は法華滅罪之寺と称し，法華経の功徳により未来成仏を祈願したものである。発掘調査の際，｢法華｣の墨書銘のある土器（土師器）が出土し，この寺が法華滅罪之寺であることが証明された。
現在，国の特別史跡に指定され，史跡公園として整備がされ，市民の憩いの場として親しまれている。