凌迟，原来写作“陵迟”，本意指山丘的缓延的斜坡。荀子说：“三尺之岸，而虚车不能登也。百仞之山，任负车登焉。何则？陵迟故也。”意思是指，三尺高的陡坎，车子便拉不上去，但百仞高的大山因为有平缓的斜坡，车子可以一直拉到山顶。后世将陵迟用作刑罚的名称，仅取它的缓慢之义，即是说以很慢的速度把人处死。而要体现这种“慢”的意图，就是一刀一刀地割人身上的肉，直到差不多把肉割尽，才剖腹断首，使犯人毕命。所以，凌迟也叫脔割、剐、寸磔等，所谓“千刀万剐”指的就是凌迟。
这种把活人零刀割死的作法早就有了。南朝宋后废帝皇帝刘昱曾亲手将人脔割。北齐文宣帝高洋也常常用脔割的手段来杀人。唐中期安史之乱时，颜杲卿抗击安禄山兵败被俘，与袁履谦等人同时被零割。但将凌迟作为正式的刑罚，人们大多认为始于五代。陆游说：“五季多故，以常法为不足，于是始于法外特置凌迟一条。肌肉已尽，而气息未绝，肝心联络，而视听犹存。”但在五代时，已有人意识到凌迟之刑过于残酷，主张废弃不用，如后晋开运三年（946），窦俨奏称死刑宜只保留斩、绞二种，而“以短刀脔割人肌肤者”，应当禁止。后晋出帝石重贵准奏，不再使用凌迟之刑。
北宋开国之初，力纠五代弊政，仍然禁止凌迟之刑。宋太祖时颁行的《刑统》，规定重罪应使用斩或绞，没有凌迟。宋真宗赵恒时，内宦杨守珍巡察陕西，督捕盗贼，捕获贼首数人，他请示朝廷，拟将他们陵迟处死，用以惩戒凶恶的人。真宗下诏，命令将俘虏转送有司衙门依法论处，不准使用凌迟。到了神宗熙宁、元丰年间，才正式将凌迟列为死刑之一。《通考·刑制考》说：“凌迟之法，昭陵（宋仁宗陵号）以前，虽凶强杀人之盗，亦未尝轻用，熙丰间诏狱繁兴，口语狂悖者，皆遭此刑。”如熙宁八年（1075），沂州百姓朱唐告越州余姚县主簿谋反，李逢在被捕后受审时，供词中又牵连了秀州团练使世居和医官刘育等，朝廷诏令有司审理此案，结果，李逢、刘育和河中府观察推官徐革都被凌迟处死。到了南宋，《庆元条法事例》更明确地把凌迟和斩、绞同列为死刑名目，这样的规定一直延续到明清。
凌迟在宋代通称为剐。景德年间，御史台曾审问杀人贼犯，定案之后，知杂王随请“脔剐之”。“剐”字原作“呙”即“骨”字去了“月”（肉），其形状也像人的头颅骨。《说文解字》解释说，其以为“剔人肉，置其骨”，这正是零刀割人的意思。“剐”又作“卨”，明朱国帧《通幢小品》卷十八“字义字起”一节云：“贞元中，宣武兵变，执城将卨之”。并注解说，卨，即“剐”字也。可见，“剐”的含义早已明了，只是到了宋代它成了凌迟的代名词而更加为人所熟知而已。这种情形，也常见于小说中的描写。《水浒传》第二十七回写教唆潘金莲害死武大郎的王婆被东平府尹陈文昭判为“拟合凌迟处死”，之后写道：
大牢里取出王婆，当厅听命。读了朝廷明降，写了犯由牌，画了供状，便把这婆子推上木驴，四道长钉，三条绑索，东平府尹判了一个“剐！” 字，拥出长街，两声破鼓响，一棒碎锣鸣，犯由前引，混棍后催，两把尖刀举，一朵纸花摇，带去东平府市心里，吃了一剐。
由于宋代使用凌迟之刑较为常见，所以民间在对仇人进行报复雪恨时，也仿照作为官刑的凌迟把人脔割至死。《水游传》中也有这样的情节，请看第四十一回中李逵割黄文炳的一段描写：
（李逵）说：“今日你要快死，老爷却要你慢死！”便把尖刀先从腿上割起，拣好的就当面炭火上炙来下酒。割一块，炙一块。无片时，割了黄文炳，李逵方把刀割开胸膛，取出心肝，把来与众头领做醒酒汤。
以上所引用《水浒传》中的两段文字，可以看出宋代凌迟在执行时的大致情形，这和《宋史·刑法志》中所说的“凌迟者，先断其肢体，乃抉其吭”的做法是基本一致的。
元代法律规定的死刑有斩首而无绞刑，对那些恶逆大罪又规定可以凌迟处死。元代凌迟执行时的情形与宋代相似，如元杂剧《感天动地窦娥冤》中，窦娥的父亲窦天章复审冤案，宣判说：张驴儿“毒杀亲爷，奸占寡妇，合拟凌迟，押赴市曹中，钉上木驴，剐一百二十刀处死。”这和《水浒传》中王婆被凌迟的做法一样，都必须钉上木驴。这木驴大概是一个木架子，可以把犯人固定在上面，以便在零割的时候该犯人不能乱动，它和古代那种“勾结奸夫害本夫”的女犯受的“骑木驴”的刑罚不是一回事（参见本书《杂刑》）。杂剧《窦娥冤》比《水浒传》更明确地指出了应割的刀数。试想，把人割一百二十刀才致命，其残忍的程度不能不叫人不寒而栗。
明代法律也明确规定凌迟为死刑之一。《大明律·刑律》载：“谋反大逆：凡谋反，谓谋危社稷；大逆，谓谋毁宗庙、山陵及宫阙。但共谋者，不分首从，皆凌迟处死。”凌迟之刑的设立，反映了封建专制政治的残酷，统治者为了镇压人民的反抗和各种犯上作乱的行为，不惜采用一切毒辣手段。明代各朝中，凡是捕获农民起义的首领及其他叛逆者，都用凌迟之刑将他们处死。如万历三十四（1606），刘天叙等谋反，兵败被擒，为首的七人被磔死。这里的“磔”即是凌迟。嘉靖二十一年（1542），宫婢杨金英等人谋害世宗朱厚煾未遂，事发被捕，杨金英、杨莲香等十六名宫女不分首谋和协从，一律凌迟处死，并且剉尸枭首。万历七年（1579）五月，礼部侍郎董传策被府中的奴仆杀死，有司将凶手捕获，下狱审理，第二年把他们全都“剐于市”。