很快，当局签发了逮捕令，下令缉拿曼德拉。但是，在具有多年丰富地下工作经验的共产党人的帮助下，曼德拉冒着当局的搜捕，月复一月，辗转活跃在各个城镇，通过电话向媒体喂料，宣传民众，争取人民群众支持这场斗争。他大多在夜间工作，越来越习惯昼伏夜出的工作和生活方式。他常常采用各式各样的行头来乔装打扮，或穿上女式大袍，或身着司机工装，或留着胡须，或戴一副圆形无框眼镜。入夜时分，他经常扮成更夫，穿件灰色大衣，帽檐压得低低的，遮住双眼，偶尔还会戴着一副大大的耳环。由于他常常能成功地躲避过警察，媒体借用一个法国大革命时期躲避搜捕的文学虚构人物斯卡利特·平珀奈勒，称其为“黑人平珀奈勒”，即非洲版的斯卡利特·平珀奈勒。
针对罢工斗争的威胁，政府通过新法律，可以不经审判拘押任何人，并下令举行战后最大规模的军队和警察动员。警察夜复一夜地对非洲人居住的城镇进行大搜捕，所有政治集会遭到禁止，工人们受到大批解雇的威胁。尽管面临高压淫威，在一些大城市里，成千上万的工人响应号召，开始了罢工斗争。但是，总体形势还是未能达到曼德拉的期望。于是，在罢工斗争开始的第二天，他即宣布叫停了这场运动。
由于罢工斗争失败，曼德拉认为，继续开展抗议活动已经无济于事，唯一可行的办法是诉诸暴力。多年的示威、抵制、罢工和不合作运动收效甚微，而每一次抗争都遭到政府严厉的报复。曼德拉认为，开展某种有限的破坏运动，会吓跑外国投资者，使商业活动陷于混乱，造成毁灭性影响，足以迫使白人选民和政府改弦更张。
在相当程度上，曼德拉的思想受到狂热的共产主义革命分子的影响。此时，转入地下活动的共产党做出决定，建立武装组织，拉开游击战争的序幕。有苏联阵营和中国的支持，他们把征募的兵员派往国外接受训练。他们认为，武装斗争会得到饱受压迫的非洲民众大力支持，很快就能让种族隔离政权完蛋。他们视古巴为榜样，学习卡斯特罗的革命如何从一支弱小的革命力量起家，获得人民的支持，最终赢得政权。切·格瓦拉认为，武装斗争本身能够在人民中间焕发出一种强大动力，他的这一革命“雷管”理论给古巴模式赋予了特殊影响力。
虽然曼德拉接受了武装斗争理念，但其他非国大领导人却坚决反对。在呵呵1961 年6 月召开的一次秘密会议上，他们争来辩去，唇枪舌剑，激烈交锋，最后达成妥协，同意非国大继续坚持非暴力原则，但同时不阻止本组织成员另行建立独立军事组织。
这个新组织被迅速建立起来，叫“乌姆考陶·韦·西兹韦”，意为“民族之矛”。该组织由曼德拉任主席，实际上为非国大和共产党共同合作的产物，是一个由区区数百名阴谋叛乱分子组成的精英团体，但共产党所拥有的全部资源、包括它在国际上的关系网络，都可供其享用。这些阴谋叛乱分子面临着巨大困难，他们对如何实施破坏活动或开展游击行动没有丝毫经验。
曼德拉决定开展武装斗争，却对如何操作实在是一无所知。所以，建立伊始，“乌姆考陶”就打上了明显的非专业烙印。
在约翰内斯堡以北十英里的里沃尼亚地区，有一个叫做利列斯里夫小农场，“乌姆考陶”的行动指挥部就设在这个农场一所宽敞的农舍里。这爿地产本来是共产党在1961 年7 月份买下作自己的地下指挥部之用的。当警察在全国到处搜捕曼德拉之时，他本人就在这个农场庭院一栋茅草房里居住了数月之久，白天藏身在那里，夜晚外出执行任务，星期天则与妻子儿女在那里共度周末。里沃尼亚这地方曾召开过许多次会议，阴谋叛乱分子们频频出入这座农场，来来往往，门庭若市，与其说这里是一个革命运动的秘密指挥部，看上去倒更像是一家商务企业。
发动破坏运动的日子订在1961 年12 月16 日。在当时，这一天适逢“誓言日”a ，是白人庆祝他们在1838年血河战役中战胜祖鲁王鼎刚的日子。街头散落的传单宣告“乌姆考陶·韦·西兹韦”组织成立，并发出警告称：“在任何一个民族的生活历程中，都会面临作出屈服抑或斗争不二抉择的关头。这一关头现在来临了。”约翰内斯堡及其他城市市政厅大楼发生多起炸弹爆炸事件。在随后的18 个月时间里，破坏和袭击活动零零星星地不断发生，目标主要针对公共建筑、铁路轨道和电力设施。这些袭击活动大多显得笨拙而无效，未能造成太大的影响。
破坏运动开始三个星期后，曼德拉离开南非，偷越国境来到贝专纳，寻求非洲国家对南非黑人武装斗争的支持。在国外逗留六个月中，他曾顺便赴埃塞俄比亚接受了一次短期军训。他说：“既然要开展游击战争，我希望能够和我的人民一道共同战斗，与他们共同承担战争风险。”可是，1962 年月，返回南非还不到两周时间，他乘车从德班前往约翰内斯堡途中，因疏忽大意，被警察抓获。尽管警方怀疑曼德拉与“乌姆考陶”及破坏运动有牵连，但苦于没有掌握证据。他在法庭上受到的指控，只是煽动非洲裔工人非法罢工和未持有效旅行证件出境两项罪名。
对曼德拉的审判引起了全世界的关注。在法庭上，他为自己担任辩护，展示出迷人的举止和风度，给世人留下深刻的印象。1962 年11 月，对他的两项指控均判定成立。他利用缓刑申诉的机会，发表了一席严辞陈述，猛烈抨击了政府。为和平解决国家的顽疾，非国大做出诸多努力，但每做出一次努力，得到的结果都是当局的鄙夷不屑和暴力镇压。他说，“他们一味依靠暴力，以暴力来回应我们的人民及其诉求，从而又为新的暴力埋下隐患。”他发出警告，预言未来将发生更多暴力，“政府的暴力只能产生一个结果，那就是导致反暴力”。最后，他被判处五年监禁。
与此同时，当局加紧对其他阴谋叛乱分子收拢大网。为反击破坏运动，维沃尔德任命约翰·沃斯特a 出任司法部长，指示他要追剿并清除一切抵抗势力。此人是一名纳粹同情者，二战期间曾未经审判遭到拘押。安全警察实际上被授予无限权力，可以随意逮捕或拘押。成批的男男女女突然失踪，被投入监狱，遭到单独监禁，受到无休无止的审讯。一旦审讯不能奏效，安全警察就会动用酷刑，进行肉体折磨。有了刑讯口供和告密者的情报，警方很快发现利列斯里夫农场是一个可疑据点。1963 年7 月11 日，他们突袭了这座农场，抓捕到一批阴谋叛乱分子领导人，还搜出一大堆文件，内容涉及制造武器、征募和培训游击队员、与中国和苏联集团往来联系等，也找到了曼德拉参与其中的证据。
