先变成ます型，然后去ます。。。
上面已经是13年的回答了……好吧，我承认确实不太严谨。一来已经有了回答，而来对题目有点无语，所以回答得简略了些。没想到这么久了还有人来挖坟质疑，看来还有人关注这个问题的。既然已经被惊醒了，那我就干脆从坟里爬出来说得严谨一点吧。
首先，日语中动词的「辞书形」（也就是俗称的“原型”或“基本型”）有六大「活用形」（已经清楚的，可以直接绕过六条看最后），包括：
1 未然形…书か(ない)/伸び(ない)…后一般接「ない、う/よう、れる/られる、せる/させる、させられる」等助动词。（接上不同的接续词后，就有了意志型、被动形、使役形、使役被动形、推量形等。有人将推量形单独最为一个分类，成为动词的第七种活用形。只要能方便记忆，采用哪种分类体系不用太过计较）
2 连用形…书き(ます)/伸び(ます)…后一般接用言（动词），如「ます、た（だ）、たい、たがる、そうだ」等助动词，或者「て（で）、ながら、つつ、たり、ても」等接续助词。（接上不同的词后，其本质应该叫复合词才对了，为了方便学习记忆，就有了「ます形」、「て形」、「た形」等等。这也是有的朋友疑惑的为什么「ます形」要去掉「ます」才是连用形）
3 终止形…书く（。）/伸びる（。）…结束句子的形态，一般后面加「。」，也可以接「と、が、から、けれど、と」等助词，或「そうだ」等助动词。
4 连体形…书く（とき）/伸びる（とき）…后一般接体言（名词），也可以加「ようだ」等助动词，或「の、だけ」等助词。
5 仮定形…书け（ば）/伸びれ（ば）…后一般接「ば」
6 命令形…书け（。）/伸びろ（。）/伸びよ（。）/来い/书くな（。）…句尾表命令。（书くな、伸ばすな等也常被称为「禁止形」，所以也有「命令·禁止形」的说法）
以上的「○○形」，包括「连用形」，都是针对「辞书形」而言的。针对题目中的“ている和ていた的连用形，还有动词过去式的连用形”,我们要做的首先是把动词变回「辞书形」，此后才是变「连用形」的问题。换句话说，进行时、过去时其实是由「连动词の连用形+ている/た」变化而来的。比如「书けている」可以看作是：
书け（连用形）+て（接続助词）+いる（补助动词）
ている不同于いる，不是一个可以单独使用的动词，因此ている是没有连用形的。
举个例子可能更好理解一些。比如有这样的语法，「动词连用形＋そう 」表状态，如「走りそう」「食べそう」「泣きそう」。但如果把(食べ)ている当成可以变连用形的动词进行变化就会变成(食べ)ていそう（喵喵喵？？？），是不是很奇怪？当然奇怪，因为在通常情况下，「ているそう」才是正确的说法。除此，还有てある、てもらう、てくれる、ておく、た、ていく、てくる、てみる、てしまう也一个道理。
个人浅见，若有缺漏或者错误，欢迎指出。