行政处罚可以由行政机关、授权组织和委托组织来实施。其中，行政机关是最常见的实施主体，但必须具有外部管理职能和特定的行政处罚权。授权组织则需要具备管理公共事务的职能，并被法律、法规授权来实施行政处罚。而委托组织则必须在授权范围内以委托行政机关的名义实施行政处罚。在实施行政处罚时，这些组织必须遵守法律规定，确保公平公正，并且不得滥用职权或侵犯当事人的合法权益。