日本提出的条款令袁世凯大为光火，这实际上与将大半个中国割让给日本无异，更令人气愤的是，日本将军舰开到渤海一带，并增加了山东一带的兵力，以武力要挟袁世凯同意“二十一条”。袁世凯深知以当时中国的实力，完全无法与日本进行正面军事冲突，只好一边与之谈判，一边命人在国内通过各种渠道传播日本的无理要求，国内的反日舆论日益高涨。袁世凯说：“我国虽弱，苟侵及我主权，束缚我内政，我必誓死力拒……”“应尽心竭力，能挽救一分，即收回一分之权利。”为了最大限度地挽回中国的利益，袁世凯在1915年2月2日到5月7日之间，先后与日本代表谈判二十余次，他并且告知外交部，要严格执行他的命令，尽最大努力争取减少中国的损失。
5月9日，日本向袁世凯发出了最后通牒，经过袁的努力，“二十一条”中，北洋政府只接受了第一至四号共十二条条款，这在当时北洋政府积贫积弱的情况下已经很不容易了。
当天下午，袁世凯紧急召开会议，通报了签订条约的情况。
袁世凯怀着沉重的心情对与会要员说：“此次日人乘欧战方殷，欺我积弱之时，提出苛刻条款……外交部恪守我的指示，坚拒到底，尽了最大之努力，避重就轻，已尽其职责……但以我目前之实力，尚难与日本兵戎相见，故权衡利害而至不得已接受日本之最后通牒。”
当时，黎元洪、徐世昌、各部总长都在现场，其中有人建议将5月9日定为国耻日，袁世凯则向各省下达密电，称条约的签订是奇耻大辱，从此以后，卧薪尝胆，十年之后“抬头见日本”。
条约并没有被如实执行。比如聘用日本人当顾问一项，在袁世凯死后，有日本人回忆在伪满担任顾问期间的情况时说道：“我等名为顾问，实际上绝无人顾，绝无人问。”
条约签订之后，袁世凯作出了非常有远见的决定。根据当时的宪法规定，总统的决定必须经过参议院的同意，而“二十一条”始终没有经过参议院的审批，没有审批就等于无效，在袁去世之后，中国人可以理直气壮地拒绝承认这个条约。
袁世凯对与日本条约的抵制，使中国免于在一战期间沦为日本殖民地的厄运。正如胡适所评价的那样：“吾国此次对日交涉，可谓知己知彼，既知持重，又能有所不挠，能柔也能刚，此乃历来外交史所未见。”
