行政机关对错误行政处罚的修复可以根据《行政处罚法》的相关规定：由上级行政机关或者有关机关责令改正，并对直接负责的主管人员和其他直接责任人员依法给予处分。

《中华人民共和国行政处罚法》第五十四条
  除本法第五十一条规定的可以当场作出的行政处罚外，行政机关发现公民、法人或者其他组织有依法应当给予行政处罚的行为的，必须全面、客观、公正地调查，收集有关证据；必要时，依照法律、法规的规定，可以进行检查。
《中华人民共和国行政处罚法》第七十六条
  行政机关实施行政处罚，有下列情形之一，由上级行政机关或者有关机关责令改正，对直接负责的主管人员和其他直接责任人员依法给予处分：
  （一）没有法定的行政处罚依据的；
  （二）擅自改变行政处罚种类、幅度的；
  （三）违反法定的行政处罚程序的；
  （四）违反本法第二十条关于委托处罚的规定的；
  （五）执法人员未取得执法证件的。
  行政机关对符合立案标准的案件不及时立案的，依照前款规定予以处理。