刮墨刀手柄大多是木制的，也有铝制的。凹槽手柄既可以由硬木制作也可以由软木制作，但一定要烘干、无缺痕。软木（如白松）之所以被使用是因为它不但具有足够的强度，而且较轻，可以制作大尺寸手柄。这是因为刮墨刀的长度可以达到约72英寸（183厘米），所以它的重量显得非常重要。较轻的刮墨刀使用起来比较轻松自如。
刮墨刀的手柄要与操作人员的手相接触的，因此手柄的棱角要呈圆形，以防磨手。橡皮刀刃必须与手柄的凹槽较好地吻合，如果不能较好地吻合，不同颜色油墨会在刀刃和手柄凹槽间的空隙干结，影响印刷油墨的颜色。
磨刀方法是把刮墨刀挂在一个竖直的位置，前后拉动磨擦材料，直到刀刃变得光滑。如果有带状磨砂机或圆盘状磨砂机，会节省工人很多工作。磨砂机的速度在1000~1300转/分钟。如果速度超过1300转/分钟可能会使橡皮熔化，因为大多数合成橡皮是热塑性物质，遇热变软。如果万一出现了这种情况，可以加少量水使其冷却，防止分解和软化。另外，要轻轻地压橡皮，使其能够得到磨擦而又不至于熔化。
磨刀刃的另一种方法是用比刀刃锋利的刀子、手动裁纸刀或机械裁纸刀把钝刀刀刃切去一部分。如果刀刃或裁纸刀用湿布擦一下，它就更易于切掉橡皮刀刃。如果刀刃损坏的非常严重，以致于不能磨平，那么只好换一个新的刀刃。