公司设立存在瑕疵可以撤销设立，但是应由公司的登记机关进行撤销，不能自行撤销。公司设立瑕疵一般表现为股东、资金、章程方面的瑕疵，如股东人数不符合限制、股东缺少相应的民事行为能力、股东出资不足、出资价值不实、未对股东权利进行明确约定、章程内容违法等。

《公司法》第一百九十八条
违反本法规定，虚报注册资本、提交虚假材料或者采取其他欺诈手段隐瞒重要事实取得公司登记的，由公司登记机关责令改正，对虚报注册资本的公司，处以虚报注册资本金额百分之五以上百分之十五以下的罚款；对提交虚假材料或者采取其他欺诈手段隐瞒重要事实的公司，处以五万元以上五十万元以下的罚款；情节严重的，撤销公司登记或者吊销营业执照。