我国现行个人所得税代扣代缴暂行办法规定第二条凡支付个人应纳税所得的企业(公司)、事业单位、机关、社团组织、军队、驻华机构、个体户等单位或者个人,为个人所得税的扣缴义务人。上款所说的驻华机构,不包括外国驻华使领馆和联合国及其他依法享有外交特权和豁免的国际组织驻华机构。第三条按照税法规定代扣代缴个人所得税是扣缴义务人的法定义务,必须依法履行。综上,你个人没有正当理由不能拒绝公司为你代扣代缴个人所得税。